Inkling 2 Small:Thinking Machines が公開したオープンウェイトのマルチモーダルモデル

Thinking Machines がリリースした汎用マルチモーダルモデルで、テキストと画像を入力として受け取り、テキストを出力します。エージェントおよびツール呼び出し、プログラミングアシスタント、対話、検索拡張生成(RAG)などのアプリケーション向けに設計されています。アーキテクチャは 48 層のデコーダーとスパースエキスパート前饋層で構成され、各トークンに対して 384 個のエキスパートから 8 個を選択し、局所注意機構とグローバル注意機構を混合しています。総パラメータ数は 594B、アクティブパラメータ数は 17B、コンテキスト長は最大 1M トークンです。公式によれば、事前学習、中間学習、事後学習のすべてが NVFP4 精度で実行されているため、NVFP4 チェックポイントが推奨されています。また MXFP8 バージョンも提供されており(公式によると評価スコアは 1–2 ポイント高いとされています)。

原題:thinkingmachines/Inkling-2-Small

Thinking Machines がリリースした汎用マルチモーダルモデルで、テキストと画像を入力として受け取り、テキストを出力します。エージェントおよびツール呼び出し、プログラミングアシスタント、対話、検索拡張生成(RAG)などのアプリケーション向けに設計されています。アーキテクチャは 48 層のデコーダーとスパースエキスパート前饋層で構成され、各トークンに対して 384 個のエキスパートから 8 個を選択し、局所注意機構とグローバル注意機構を混合しています。総パラメータ数は 594B、アクティブパラメータ数は 17B、コンテキスト長は最大 1M トークンです。公式によれば、事前学習、中間学習、事後学習のすべてが NVFP4 精度で実行されているため、NVFP4 チェックポイントが推奨されています。また MXFP8 バージョンも提供されており(公式によると評価スコアは 1–2 ポイント高いとされています)。

なぜ重要か 低精度フォーマットでネイティブに訓練され、重みは Apache ライセンスで公開されています。主要な推論および事後学習フレームワークではリリース初日からサポートされており、ローカルデプロイも独自微调も可能です。

上昇スコア 95 · いいね数 95 · ダウンロード数 12

理由

  • 公式の評価表では、BrowseComp(コンテキスト圧縮付き)で 90.2%、DeepSWE で 72.1%、ARC-AGI-2 で 81.7%、OmniDocBench で 94.6% のスコアを記録しています。同表内の DeepSeek-V4.1-Flash-1017 は AA Index が 32.6 であり、これより高い 30.6 も存在しますが、各項目では優劣が分かれています。
  • デプロイおよび訓練エコシステムが整備されています。SGLang、vLLM、TokenSpeed、Unsloth ではローカル推論用のレシピが提供されており、Miles や SkyRL などでは事後学習が可能です。また、Together、Baseten、Cloudflare などのサードパーティプロバイダーが API を提供しています。
  • 公式ではセキュリティ評価(FORTRESS、StrongREJECT など)および利用ポリシーへのリンクも別途記載されています。

使い方

  • まず Tinker Playground でオンライン試用するか、Tinker Cookbook に従って API を呼び出します。Tinker を使用して微调する場合は、tml-renderers のインストールが必要です。
  • ローカル環境では、モデルカードに記載されている SGLang / vLLM のレシピに従って thinkingmachines/Inkling-2-Small(NVFP4)を読み込みます。FP8 が必要な場合は Inkling-2-Small-MXFP8 を使用します。

リスク

  • ハードウェア要件が高いです。NVFP4 バージョンでは合計約 500GB の VRAM が必要であり(例:B300 を 2 枚、または H200 を 4 枚)、MXFP8 バージョンでは約 800GB 必要です。
  • スコア表は公式によるものであり、一部の比較モデルのスコアはサードパーティのリーダーボードや公開データセットに基づいています。評価設定はそれぞれ異なります。
  • 本項目は実行されておらず、効果についてはモデルカードを参照してください。

開く

Hugging Face Trending

最新の AI ニュースを見る