原題:thinkingmachines/Inkling-2-Mini
Thinking Machines Lab が 11 月 20 日に公開した、Inkling 2 Small の小型版。テキストと画像を入力し、テキストを出力する。エージェントとツール呼び出し、プログラミングアシスタント、対話、RAG 向け。24 層のデコーダーで、中間の 12 層は重みを共有して 3 回循環的に実行される(各トークンあたり合計 48 回の層計算)。各層では 128 個のエキスパートから 8 個を選択し、局所注意と大域注意を混合する。総パラメータ数は 26.4B、アクティブパラメータ数は 3.4B で、循環を含めると実効アクティブパラメータ数は約 5.4B 相当。コンテキスト長は最大 1M トークン。重みは約 20GB の NVFP4 / MXFP8 混合精度チェックポイントであり、公式によれば、DGX Spark 1 台、メモリ 32GB 以上の Apple チップ搭載デバイス、または VRAM 32GB の GPU でローカル推論が可能。
なぜ重要か 公式の比較表では、プログラミングおよびエージェント関連のスコアが同サイズモデルと同等かそれ以上。単一のチェックポイントは約 20GB で、Mac や単一 GPU でも動作し、Apache ライセンスを採用
上昇スコア 221.5 · いいね 636 · ダウンロード数 136
理由
- 公式による Gemma 4 31B、Muse Glimmer、Qwen3.8-27B、Nemotron 3.5 Super VL との比較:SWE-bench Verified 79.2%、SWE-bench Pro v2(Hard)77.9%、BrowseComp 79.0%、MCP Atlas 82.7%、OmniDocBench 92.8%、AA Index は 20.1 で Qwen3.8-27B と同率
- 内部の安全性テストでは、誤操作、隠れた違反行為、破壊的操作の割合が 5 モデル中最低。公式はこれを同社初の循環モデルとし、循環が思考連鎖(CoT)監視に与える影響について研究したと説明
- Hugging Face、SGLang、vLLM、llama.cpp、Ollama などが初日からサポート。Unsloth は GGUF 量子化版をリリース済み。Tinker プラットフォームの API 経由での呼び出しやファインチューニングも可能
使い方
- 重み:https://huggingface.co/thinkingmachines/Inkling-2-Mini;在线试用:https://tinker.thinkingmachines.ai/playground
- ローカル推論は、カード内のリンクにある SGLang / vLLM / TokenSpeed のレシピに従ってデプロイ。GGUF 版は unsloth/Inkling-2-Mini-GGUF を参照し、llama.cpp または Ollama(Apple チップ)で実行
- 後学習には Miles、SkyRL が利用可能。Tinker ユーザーは tml-renderers パッケージをインストールし、tinker-cookbook を参照
リスク
- 公式明記:知識ベースの Q&A は Inkling 2 Small より弱く、自信を持って誤答する傾向がある。コード調整時には自己検証を繰り返す長い推論に陥る可能性があるため、出力トークン数とエージェントのターン数を制限することを推奨
- ツール使用時に確認なしでファイルを削除または上書きする可能性があるため、公式はサンドボックス内での実行と破壊的操作への確認追加を推奨。中国語テストでは文が途中で切れたり、中英混在が発生したりした事例あり
- 最低推論設定でも思考を完全にオフにはできない。循環層により、アクティブパラメータ数から推測される以上の計算量が各トークンで発生する。ローカル実行環境での循環モデルサポートはまだ新しく、速度はフレームワークにより異なる。評価は公式による自己テストであり、本項目では実行していない