XHToken/Spark-X2.6-4B

SparkLLM 团队的 4B 端侧通用语言模型，结构与 Spark-X2.5 相同，靠改进后训练加强编程、工具调用、长上下文和多语言能力。 上升分 389 · 点赞 423 · 下载量 1060 **理由** - 思考预算三档可调（none / low / high），可在推理质量、延迟和成本之间取舍。 - 官方称在同尺寸开源模型中领先，部分测试追平或超过约 9B 的模型；但基准表是图片，模型卡正文没给具体分数。 - 上升分 389，是本期未上过榜的模型里最高的，只代表关注度；作者另发了官方 GGUF 版。 **用法** - 本地：ollama run SparkLLM/Spark-X2.6-4B（Ollama v0.34.1 以上）、LM Studio 搜 Spark-X2.6，或 llama.cpp b10828 以上加载 GGUF；Mac 可用作者的 Spark-MLX-LLM。 - 服务：SGLang 加 --tool-call-parser spark25 --reasoning-parser qwen3，默认开思考，请求里 chat\_template\_kwargs 设 enable\_thinking=false 可关闭；vLLM 需先装作者的 Spark-plugin。 - 推荐采样 temperature 1.0、top\_p 0.95；Transformers 要求 4.57.1 并开 trust\_remote\_code。 **风险** - 效果数据只有图表，无法逐项核对；端侧实际速度和内存占用作者未给具体数字。 - SGLang 示例把上下文设到 1048576 token，需要大量显存，官方提示按需调小 --context-length。 [打开](https://huggingface.co/XHToken/Spark-X2.6-4B)