新公司 Ricursive Intelligence 的第一个模型：65B 参数的稠密 Transformer（不用 MoE），从零在 12T token、以英文和代码为主的纯文本语料上预训练，支持最长 1M 上下文。本仓库是 BF16 指令版，同时放出 NVFP4 指令版、BF16 基座版和投机解码用的 DFlash2 草稿模型。作者称从 Olmo 3 基线出发逐项改训练配方，开发期间团队从 1 人扩到 5 人，结构改成类似 Gemma 3N 的“窄而深”（d_model 5120、80 层）。11 月 4 日建仓，近 7 期没有收录。
上升分 112 · 点赞 114 · 下载量 0
理由
- 作者称智能体编程成绩超出体量：Terminal-Bench 2.1 80.5，高于表中 501B 的 Reflection Beam（80.1）、816B 的 Muse Spark Open（76.4）、975B 的 Inkling（63.8）和 550B 的 Nemotron 3 Ultra（56.4）；SWE-bench Pro v2.0 Hard 79.1 也是表中最高，数学 AIME 2025 98.3、HMMT Feb 2026 90.5。
- 稠密 65B 部署简单：作者称能装进 DGX Spark 这类本地设备，为此出了 NVFP4 版（MLP 用 NVFP4、注意力保留 BF16）；在 2 张 B200 上 batch 8、不量化不写自定义内核可达每秒 250 token。
- 训练过程写得透：预训练、中期训练、长上下文、SFT、长上下文 SFT、RL 各阶段的 token 数、步数、序列长度和批量都列了表；基座版是只做预训练的检查点，没加中期训练和合成问答数据，适合拿来做后训练研究。
用法
- 作者给的部署方式（仓库 inference/server 目录）：Linux + CUDA Toolkit 13 + uv，SGLang 0.5.19，两张 B200，在该目录运行 CUDA_VISIBLE_DEVICES=0,1 uv run --script serve.py --model-path <本仓库> --speculative-draft-model-path <DFlash2 草稿模型>；默认 TP=2、1Mi 上下文，服务在 127.0.0.1:30000，OpenAI 兼容接口。
- 工具调用：按 OpenAI 格式传 tools 和 tool_choice: auto，响应分开给 reasoning_content、content 和 tool_calls；续轮时把 assistant 消息原样放回，再加带 tool_call_id 的 tool 消息。要用 tool_choice: required 时，把函数设为 strict=true、additionalProperties=false。
- 模型带自定义代码（RicursiveForCausalLM，需要 trust_remote_code）；聊天模板没有思考开关和推理强度档位，max_tokens 要留够思考和答案两部分。
风险
- Preview 版：作者说后训练较轻、侧重智能体编程，SciCode 39.4、DeepSWE 1.1 44.3、MCP Atlas 71.67 在表中偏低。成绩是作者自评，表中斜体是作者替对手跑的分，作者也承认智能体评测很难复现。
- 只和美国的开源模型比，没有和 Qwen、DeepSeek、Kimi、GLM 等比较；预训练语料以英文和代码为主、只有文本，中文能力未知（基座版 C-Eval 69.6，低于表中 DeepSeek 两款）。
- 卡里提到的 Colab 没有给链接，NVFP4 版的卡只有一段说明，没有 DGX Spark 等设备上的运行步骤，现成文档只覆盖 B200 + SGLang；新公司第一个模型，后续维护情况未知。