新興企業 Ricursive Intelligence の最初のモデル：65B パラメータの密な Transformer（MoE は不使用）、12T トークン、主に英語とコードからなる純粋なテキストコーパス上でゼロから事前学習され、最大 1M のコンテキスト長をサポートします。このリポジトリは BF16 指示版で、同時に NVFP4 指示版、BF16 ベースモデル版、および推測的デコーディング用の DFlash2 ドラフトモデルも公開されています。著者は Olmo 3 ベースラインから訓練レシピを項目ごとに改良したと述べており、開発期間中にチームは 1 人から 5 人に拡大し、アーキテクチャは Gemma 3N に似た「狭く深い」構造（d_model 5120、80 レイヤー）に変更されました。11 月 4 日にリポジトリが作成され、直近の 7 期間では収録されていません。
上昇スコア 112 · いいね数 114 · ダウンロード数 0
理由
- 著者はエージェント型プログラミングの実績がモデルサイズを上回ると主張しています：Terminal-Bench 2.1 80.5 は、表中の 501B の Reflection Beam（80.1）、816B の Muse Spark Open（76.4）、975B の Inkling（63.8）、および 550B の Nemotron 3 Ultra（56.4）よりも高くなっています。また、SWE-bench Pro v2.0 Hard 79.1 も表中で最高であり、数学では AIME 2025 98.3、HMMT Feb 2026 90.5 を記録しています。
- 密な 65B モデルはデプロイが簡単です：著者は DGX Spark などのローカルデバイスに搭載可能だと述べており、そのために NVFP4 版（MLP は NVFP4、注意機構は BF16 を維持）を提供しています。2 枚の B200 GPU 上でバッチサイズ 8、量子化なし、カスタムカーネルなしで毎秒 250 トークンの処理が可能です。
- 訓練プロセスの詳細が明確に記載されています：事前学習、中間訓練、長コンテキスト、SFT、長コンテキスト SFT、RL の各段階におけるトークン数、ステップ数、シーケンス長、バッチサイズが表にまとめられています。ベースモデル版は事前学習のみを行ったチェックポイントであり、中間訓練や合成 Q&A データは含まれていないため、後続の訓練研究に適しています。
使い方
- 著者が提示するデプロイ方法（リポジトリの inference/server ディレクトリ）：Linux + CUDA Toolkit 13 + uv、SGLang 0.5.19、B200 GPU を 2 枚使用し、当該ディレクトリで
CUDA\_VISIBLE\_DEVICES=0,1 uv run --script serve.py --model-path \<本リポジトリ\> --speculative-draft-model-path \<DFlash2 ドラフトモデル\>を実行します。デフォルトでは TP=2、コンテキスト長 1Mi で、サービスは 127.0.0.1:30000 で稼働し、OpenAI 互換インターフェースを提供します。 - ツール呼び出し：OpenAI フォーマットに従って
toolsとtool\_choice: autoを渡すと、レスポンスにはreasoning\_content、content、tool\_callsが分離されて返されます。次のターンでは assistant メッセージをそのまま戻し、tool\_call\_idを含む tool メッセージを追加します。tool\_choice: requiredを使用する場合は、関数をstrict=true、additionalProperties=falseに設定してください。 - モデルにはカスタムコード（RicursiveForCausalLM、
trust\_remote\_codeが必要）が含まれています。チャットテンプレートには思考スイッチや推論強度のレベルがないため、max\_tokensは思考部分と回答部分の両方に十分な余裕を持たせて設定してください。
リスク
- プレビュー版：著者は後続訓練が軽量でエージェント型プログラミングに重点を置いていると述べており、SciCode 39.4、DeepSWE 1.1 44.3、MCP Atlas 71.67 のスコアは表中で低めです。実績は著者による自己評価であり、表中の斜体部分は著者が競合モデルのために実行したスコアです。著者はエージェント型ベンチマークの再現が難しいことも認めています。
- 比較対象は米国のオープンソースモデルのみで、Qwen、DeepSeek、Kimi、GLM などとの比較はありません。事前学習コーパスは主に英語とコードでありテキストのみであるため、中国語能力は不明です（ベースモデル版の C-Eval スコアは 69.6 で、表中の DeepSeek の 2 モデルより低くなっています）。
- カードに記載されている Colab へのリンクは提供されていません。NVFP4 版のカードには簡単な説明のみがあり、DGX Spark などのデバイスでの実行手順はありません。既存のドキュメントは B200 + SGLang の構成のみをカバーしています。新興企業の最初のモデルであり、今後のメンテナンス状況は不明です。