Recursive Flint:ゼロから訓練され、単一GPUでサービスを提供するコーディングエージェントモデル

コーディングエージェント向けの Recursive の混合専門家(MoE)言語モデル:総パラメータ数 39.8B、トークンあたりアクティブパラメータ約 2.5B(出力ヘッドを含む。40B-A2.5B は丸めた表記です)。49 層構成(2 層の密結合 + 47 層の MoE。うち 35 層は 513 トークンのスライディングウィンドウアテンション、14 層はグローバルアテンション)。各層で 256 個のルーティング専門家から 6 個を選択し、さらに 1 個の常駐共有専門家を備えます。コンテキスト長は 262,144 トークン、自己申告による知識カットオフは 2026 年 6 月です。ゼロから事前学習、中期学習、SFT(教師ありファインチューニング)、強化学習を経ており、推論とマルチターンツール呼び出しに対応しています。このリポジトリには BF16 チェックポイント(約 80 GB)、チャットテンプレート、および SGLang デプロイメントパッケージが含まれています。NVIDIA および Apple チップ向け量子化版は別途準備中です。10 月 21 日にリポジトリが作成されましたが、以前の号では取り上げられていません。

原題:RecursiveSI/flint

コーディングエージェント向けの Recursive の混合専門家(MoE)言語モデル:総パラメータ数 39.8B、トークンあたりアクティブパラメータ約 2.5B(出力ヘッドを含む。40B-A2.5B は丸めた表記です)。49 層構成(2 層の密結合 + 47 層の MoE。うち 35 層は 513 トークンのスライディングウィンドウアテンション、14 層はグローバルアテンション)。各層で 256 個のルーティング専門家から 6 個を選択し、さらに 1 個の常駐共有専門家を備えます。コンテキスト長は 262,144 トークン、自己申告による知識カットオフは 2026 年 6 月です。ゼロから事前学習、中期学習、SFT(教師ありファインチューニング)、強化学習を経ており、推論とマルチターンツール呼び出しに対応しています。このリポジトリには BF16 チェックポイント(約 80 GB)、チャットテンプレート、および SGLang デプロイメントパッケージが含まれています。NVIDIA および Apple チップ向け量子化版は別途準備中です。10 月 21 日にリポジトリが作成されましたが、以前の号では取り上げられていません。

なぜ重要か アクティブパラメータ数が小さく、大容量のVRAMを備えた単一のGPUでサービスを開始できるため、自分のマシン上でコーディングエージェントを実行したいチームに適しています。

上昇スコア 84 · いいね数 1353 · ダウンロード数 38357

理由

  • 作者によると、Terminal-Bench 2.1 で 54.9%、SWE-bench Pro v2 で 89.7%、SWE-bench Verified で 74.2% のスコアを記録しています(エージェント項目は少なくとも 5 回の pass@1 の平均値で評価。Terminal-Bench では Terminus 2、SWE-bench では mini-swe-agent を使用)。また、Flint の Terminal-Bench スコアでは、オンライン検索を通じて得られた解決策は失敗としてカウントされる旨が明記されており、他社が自己申告するスコアではこの処理が行われていない可能性があります。
  • デプロイ手順が明確で再現可能です:Docker で SGLang イメージをビルドした後、単一GPU(B300 または H200)で1つのレプリカを起動し、OpenAI 互換インターフェース経由でツール呼び出しを含むリクエストを直接送信できます。推論とツール呼び出しの2種類のサンプルクライアント(ネストされたパラメータや並列呼び出しを含む)が添付されています。
  • ライセンスは Apache-2.0 で、重みファイルのライセンスとホスティングAPIの利用規約は分離されています。Hugging Face のいいね数は 1353 です(これは単に関心の高さを示すものです)。

使い方

  • hf download RecursiveSI/flint --local-dir flint を実行してダウンロードします(約 80 GB。作者は特定の revision を指定してダウンロードし、hf cache verify で検証することを推奨しています)。次に cd flint && docker build -t flint-sglang sglang でイメージをビルドし、docker run -d --name flint --gpus '"device=0"' --ipc=host -p 127.0.0.1:30000:30000 -v "$PWD:/model" -e MODEL=/model flint-sglang bash /model/sglang/serve\_b300.sh でコンテナを起動します(H200 の場合は serve\_h200.sh に変更してください)。localhost:30000/health\_generate が応答するのを待ってから、python3 sglang/example\_client.py --base-url http://localhost:30000/v1 を実行して推論と1回のツール呼び出しをテストします。
  • サンプリングパラメータは temperature 1.0、top_p 0.95、top_k 20 です(リクエストで指定しない場合、サーバー側で自動的に適用されます)。難しい問題の場合、出力予算は推論を含めて少なくとも 32768 トークン必要です。マルチターン対話では、チェックポイントに含まれるチャットテンプレートを使用し、返された reasoning\_content を会話履歴に残してください。

リスク

  • VRAM要件が厳格です:各レプリカには ≥141 GB のVRAMを備えたGPU(B300 / B200 / H200)が必要で、80 GB のカードはサポートされていません。Transformers 用のモデリングコードはまだ提供されておらず、現時点では SGLang を介してのみ利用可能です。イメージのビルドには Docker Hub、PyPI、flashinfer.ai、および GitHub へのアクセスが必要です。
  • ベンチマーク結果はすべて作者による自己評価であり、各社の評価設定が異なります。作者は、長い推論処理によりレイテンシが増加し、回答完了前に出力予算を消費してしまう可能性があること、またツール呼び出しアプリケーションでは権限管理と実行境界を独自に実装する必要があることを注意喚起しています。
  • 量子化版については「別途準備中」と記載されているのみで、リンクは提供されていません。

開く

Hugging Face Trending

最新の AI ニュースを見る