XHToken/Spark-X2.6-1.7B

SparkLLM チームの Spark-X2.6 シリーズの第2弾モデル。構造は Spark-X2.5-1.7B と同じだが、改良された後訓練により、プログラミング、エージェント、長文脈、多言語対応能力が強化されている。10 月 24 日に収録されたのは同シリーズの 4B 版であり、この 1.7B 版は 10 月 27 日に重みファイルがアップロードされたため、それ以前の号では収録されていなかった。

SparkLLM チームの Spark-X2.6 シリーズの第2弾モデル。構造は Spark-X2.5-1.7B と同じだが、改良された後訓練により、プログラミング、エージェント、長文脈、多言語対応能力が強化されている。10 月 24 日に収録されたのは同シリーズの 4B 版であり、この 1.7B 版は 10 月 27 日に重みファイルがアップロードされたため、それ以前の号では収録されていなかった。

上昇スコア 56 · いいね 58 · ダウンロード数 1307

理由

  • 4B 版よりも小さい。作者によれば、RTX 4090 において、短いコンテキストのデコード速度は Qwen3.5-2B、MiniCPM-2B、LFM2.5-2.6B を上回っており、作者が独自に最適化した llama.cpp フォークを使用すれば、すべてのテスト長で優位に立つ(グラフのみ公開)。
  • 思考予算は none / low / high の3段階から選択可能。また、コミュニティによる WebGPU デモ(mohdmahmodi/Spark-X2.6-1.7B-WebGPU)があり、公式の INT4 重みを使ってブラウザ内でローカル実行でき、インストールは不要。
  • デプロイ手段が充実:Transformers、SGLang、vLLM(Spark-plugin のインストールが必要)、MLX、llama.cpp、Ollama、LM Studio すべてに説明があり、昇腾 NPU にも対応。

使い方

  • ollama run SparkLLM/Spark-X2.6-1.7B(Ollama 0.34.1 以上が必要);LM Studio 0.4.0 以上で Spark-X2.6 を検索することも可能;llama.cpp は b10828 以上が必要。
  • Transformers:4.57.1 をインストールし、trust_remote_code=True を有効化、apply_chat_template 内の enable_thinking で思考機能を切り替え;推奨設定は temperature 1.0、top_p 0.95。
  • SGLang:--tool-call-parser spark25 --reasoning-parser qwen3 を追加;思考を無効にするには、リクエストの chat_template_kwargs で enable_thinking=false を設定。

リスク

  • ベンチマーク成績と速度比較は画像のみで、モデルカードの本文には具体的なスコアが一切記載されておらず、本欄では「同サイズでリード」という主張を検証できない。
  • SGLang の例ではコンテキスト長が 1048576 に設定されているが、VRAM が不足する場合は --context-length を小さくする必要がある;具体的なメモリ使用量については作者から提供されていない。
  • WebGPU デモはコミュニティ作品であり、貢献者自身の Windows + NVIDIA 環境でのみテストされている。

開く

Hugging Face Trending

最新の AI ニュースを見る