字节跳动等开源智能体模型 Axion 1.0,只用三段训练

据 The Decoder,字节跳动和杜克大学、马里兰大学、布法罗大学的研究者发布智能体基础模型 Axion 1.0,训练只有三个阶段:两轮轻量监督微调,再加一轮强化学习,不做专门的中期训练、DPO 或在线蒸馏。技术报告称,第一轮用基于基座模型解题策略加难的推理题,第二轮用从真实数据源构造、答案可自动验证的工具调用任务,最后用强化学习提升长程推理和工具交互能力;论文称它在多项智能体评测上能和领先的商用模型竞争。GitHub 仓库公开了数据构造、过滤、提示词和训练代码,训练数据放在 Hugging Face,两个版本分别基于 Qwen3.6-35B-A3B 和 Qwen3.5-122B-A10B 训练。

原题:Bytedance argues most AI training phases are unnecessary and backs it up with a competitive open model

据 The Decoder,字节跳动和杜克大学、马里兰大学、布法罗大学的研究者发布智能体基础模型 Axion 1.0,训练只有三个阶段:两轮轻量监督微调,再加一轮强化学习,不做专门的中期训练、DPO 或在线蒸馏。技术报告称,第一轮用基于基座模型解题策略加难的推理题,第二轮用从真实数据源构造、答案可自动验证的工具调用任务,最后用强化学习提升长程推理和工具交互能力;论文称它在多项智能体评测上能和领先的商用模型竞争。GitHub 仓库公开了数据构造、过滤、提示词和训练代码,训练数据放在 Hugging Face,两个版本分别基于 Qwen3.6-35B-A3B 和 Qwen3.5-122B-A10B 训练。

为什么重要 智能体训练流程越叠越多、越来越难复现;它说明简单配方也能接近商用模型,开源社区可以照着复现和改进。

可信度:高可信 · 来源 字节跳动 GitHub(axion1_0) 等 3 家(含官方) · 事件时间 11-21 17:17(北京时间)

理由

  • 字节跳动 GitHub 仓库和 arXiv 技术报告公开了完整训练配方
  • The Decoder 报道

用法

  • GitHub 仓库 bytedance/axion1_0 有训练代码和复现说明,训练数据在 Hugging Face 数据集 Axion1-0/axion-training-data

风险

  • 仓库 README 写明,Hugging Face 上的 Axion 1.0-35B 是社区复现版,不是官方权重
  • 部分对比模型的分数由 Axion 团队自己评测(README 用星号标注);技术报告 11 月 2 日已在 arXiv 发布,本期按媒体报道收录

打开 · 字节跳动 GitHub(axion1_0) · arXiv 技术报告

The Decoder

浏览最新 AI 动态