Axion 1.0:三阶段训练、配方全开的智能体基础模型(Open Agent Foundation Models, Simplified)

杜克大学、字节跳动、马里兰大学和布法罗大学的智能体基础模型,训练只有三步:两段轻量 SFT 加强化学习,不做专门的中期训练、DPO 或在线蒸馏。第一段 SFT 练不依赖工具的推理:合成难题后,针对底模已经解出的题,用组合、参数化、改取值范围、分情况讨论再加难,每次改写后核对参考答案;第二段用 NASA 系外行星库、OurAirports、OpenAlex、UniProt、Ensembl 等公开数据库,由程序先筛记录、算出唯一参考答案,再让大模型出题,模型只能靠搜索、网页和 Python 找证据;最后用异步 GRPO 强化长程工具交互。权重之外,数据构造、生成、过滤、校验、提示词和训练代码都放了。

杜克大学、字节跳动、马里兰大学和布法罗大学的智能体基础模型,训练只有三步:两段轻量 SFT 加强化学习,不做专门的中期训练、DPO 或在线蒸馏。第一段 SFT 练不依赖工具的推理:合成难题后,针对底模已经解出的题,用组合、参数化、改取值范围、分情况讨论再加难,每次改写后核对参考答案;第二段用 NASA 系外行星库、OurAirports、OpenAlex、UniProt、Ensembl 等公开数据库,由程序先筛记录、算出唯一参考答案,再让大模型出题,模型只能靠搜索、网页和 Python 找证据;最后用异步 GRPO 强化长程工具交互。权重之外,数据构造、生成、过滤、校验、提示词和训练代码都放了。

点赞 39 · 代码星数 37

理由

  • README 列出的论文结果:Axion 1.0-122B(Qwen3.5-122B-A10B 底座)在限制网站访问的完整 HLE 上 59.0、FrontierScience Olympiad 87.0、FrontierScience Research 66.7;Axion 1.0-35B(Qwen3.6-35B-A3B 底座,激活 3B)SEAL-0 62.2;作者称在部分智能体基准上与领先商用模型相当。
  • 训练便宜:README 写第一段 SFT 用 10,819 条轨迹、第二段 7,544 条(约 312M token),两段 SFT 在 32 卡上 35B 合计约 90 GPU 小时、122B 约 240 GPU 小时。
  • 能复现:训练数据在抱脸 Axion1-0/axion-training-data,代码 Apache-2.0(SFT 用 Swift + Megatron-FSDP,RL 用 verl);抱脸 Axion1-0/Axion-1.0-35B 是按配方复现的检查点(Apache-2.0),模型卡称复现版 HLE 52.8、SEAL-0 60.4,与论文版接近;抱脸当日点赞 39、代码星数 37(只代表关注度)。

用法

  • 部署复现版(模型卡示例用 8 卡,可按显存调整):vllm serve Axion1-0/Axion-1.0-35B --served-model-name axion-35b --tensor-parallel-size 8 --dtype bfloat16 --max-model-len 131072 --reasoning-parser qwen3 --enable-auto-tool-choice --tool-call-parser qwen3_coder,再调 OpenAI 兼容接口。
  • 造数据 / 评测:git clone https://github.com/bytedance/axion1_0.git,另建 Python 3.11+ 环境 python -m pip install -e ".[data,evaluation]",按 axion/datagen/stage1、stage2 的 README 生成两段数据;axion/evaluation 负责 FrontierScience、HiPhO、HLE-130、SEAL-0 的数据准备和打分。
  • 训练:按 axion/training/README.md 做两段 SFT 和异步 GRPO,训好的检查点要先导出成抱脸格式再用 vLLM 起服务。

风险

  • README 把 35B 检查点称为社区复现版、不是官方 Axion 检查点;论文里的 122B 以及只做 SFT 的 4B / 9B 变体没看到权重。
  • 智能体评测要另配执行工具调用的外部框架,仓库的评测脚本只做数据准备和打分;RL 要把 rollout、训练和辅助服务分到不同 GPU 池,复现门槛高。
  • 对比表里带 * 的基线分数是 Axion 团队自己测的,其余取自官方报告;所有分数为作者报告。

打开 · 代码 · 抱脸论文页

Hugging Face Daily Papers

浏览最新 AI 动态