Axion 1.0-35B:科学推論エージェントモデルのコミュニティ再現版

Axion 1.0 は、デューク大学、ByteDance などのチームが提唱したオープンソースのエージェント基盤モデルのレシピです。まず難しい科学問題で SFT(推論の学習)を行い、次に情報検索やツール使用を要する検証可能なタスクで SFT(調査の学習)を行い、最後にエージェントの軌跡に対して強化学習を実施します。SFT データは約 1.8 万件です。本リポジトリは、このレシピに基づいて訓練された 35B の再現チェックポイント(総パラメータ数約 350 億、アクティブパラメータ数約 30 億、ベースモデルは Qwen3.6-35B-A3B)です。作者によれば、HLE で 52.8、SEAL-0 で 60.4、FrontierScience のオリンピック問題で 85.0 のスコアを達成しており、論文で報告された 52.2、62.2、86.0 に近い結果となっています。

元記事:Axion1-0/Axion-1.0-35B

Axion 1.0 は、デューク大学、ByteDance などのチームが提唱したオープンソースのエージェント基盤モデルのレシピです。まず難しい科学問題で SFT(推論の学習)を行い、次に情報検索やツール使用を要する検証可能なタスクで SFT(調査の学習)を行い、最後にエージェントの軌跡に対して強化学習を実施します。SFT データは約 1.8 万件です。本リポジトリは、このレシピに基づいて訓練された 35B の再現チェックポイント(総パラメータ数約 350 億、アクティブパラメータ数約 30 億、ベースモデルは Qwen3.6-35B-A3B)です。作者によれば、HLE で 52.8、SEAL-0 で 60.4、FrontierScience のオリンピック問題で 85.0 のスコアを達成しており、論文で報告された 52.2、62.2、86.0 に近い結果となっています。

なぜ重要か 訓練は2段階の SFT と強化学習のみで構成され、データ、コード、再現重みがすべて公開されているため、エージェントの訓練レシピを研究する人にとって比較検討に適しています

上昇スコア 72 · いいね 73 · ダウンロード数 1315

理由

  • 科学分野向け:科学推論、情報検索、ツールを用いた問題解決に対応し、モデルカードには論文版と再現版の成績が並べて記載されています
  • 訓練データセットと完全な訓練コード(データ生成とフィルタリング、2段階 SFT、非同期強化学習、評価)は GitHub の bytedance/axion1_0 で公開されており、ライセンスは Apache-2.0 です

使い方

  • vllm serve Axion1-0/Axion-1.0-35B を実行します。例では 8 カードのテンソル並列、131072 のコンテキスト長を使用し、--reasoning-parser qwen3 と --tool-call-parser qwen3_coder を有効にします
  • ツールを使用するエージェントタスクを実行するには、ツール呼び出しを実行するためのフレームワークを別途設定する必要があります。詳細は GitHub リポジトリの推論ガイドを参照してください

リスク

  • GitHub の説明によると、これはコミュニティによる再現版であり、Axion の公式チェックポイントではありません
  • 比較表内の他のモデルのスコアは、それぞれの公式レポートから取得されたものが多く、評価設定は完全に一致していません
  • 本項目は実行されておらず、効果はモデルカードを基準としてください

開く

Hugging Face Trending

最新の AI ニュースを見る