Modèle de base pour agents issu de l'Université Duke, ByteDance, l'Université du Maryland et l'Université de Buffalo, entraîné en seulement trois étapes : deux phases légères de SFT suivies d'un apprentissage par renforcement, sans entraînement intermédiaire dédié, DPO ni distillation en ligne. La première phase de SFT entraîne le raisonnement sans dépendance aux outils : après la synthèse de problèmes difficiles, pour les questions déjà résolues par le modèle de base, la difficulté est augmentée par combinaison, paramétrisation, modification des plages de valeurs et discussion par cas, avec vérification de la réponse de référence après chaque réécriture ; la deuxième phase utilise des bases de données publiques telles que la base d'exoplanètes de la NASA, OurAirports, OpenAlex, UniProt et Ensembl, où un programme filtre d'abord les enregistrements et calcule une réponse de référence unique, avant que le grand modèle ne génère les questions, le modèle ne pouvant s'appuyer que sur la recherche, le web et Python pour trouver des preuves ; enfin, un GRPO asynchrone est utilisé pour renforcer les interactions longues avec les outils. En plus des poids, la construction des données, la génération, le filtrage, la validation, les prompts et le code d'entraînement sont tous fournis.
J'aime 39 · Étoiles du code 37
Raisons
- Résultats du papier listés dans le README : Axion 1.0-122B (base Qwen3.5-122B-A10B) obtient 59.0 sur le HLE complet avec restriction d'accès aux sites web, 87.0 sur FrontierScience Olympiad, 66.7 sur FrontierScience Research ; Axion 1.0-35B (base Qwen3.6-35B-A3B, 3B activés) obtient 62.2 sur SEAL-0 ; les auteurs affirment des performances comparables aux modèles commerciaux leaders sur certains benchmarks d'agents.
- Entraînement peu coûteux : le README indique que la première phase de SFT utilise 10,819 trajectoires, la seconde 7,544 (environ 312M tokens), les deux phases de SFT sur 32 cartes prennent environ 90 heures GPU pour 35B et environ 240 heures GPU pour 122B.
- Reproductible : les données d'entraînement sont sur Hugging Face Axion1-0/axion-training-data, le code est sous Apache-2.0 (SFT utilise Swift + Megatron-FSDP, RL utilise verl) ; Axion1-0/Axion-1.0-35B sur Hugging Face est un point de contrôle reproduit selon la recette (Apache-2.0), la fiche du modèle indique que la version reproduite obtient 52.8 sur HLE et 60.4 sur SEAL-0, proche de la version du papier ; les likes du jour sur Hugging Face sont 39 et les étoiles du code 37 (représentant uniquement l'attention).
Utilisation
- Déployer la version reproduite (l'exemple de la fiche du modèle utilise 8 cartes, ajustable selon la mémoire GPU) : vllm serve Axion1-0/Axion-1.0-35B --served-model-name axion-35b --tensor-parallel-size 8 --dtype bfloat16 --max-model-len 131072 --reasoning-parser qwen3 --enable-auto-tool-choice --tool-call-parser qwen3_coder, puis appeler l'interface compatible OpenAI.
- Générer des données / Évaluation : git clone https://github.com/bytedance/axion1_0.git，另建 Environnement Python 3.11+ python -m pip install -e ".[data,evaluation]", générer les deux phases de données selon les README de axion/datagen/stage1 et stage2 ; axion/evaluation gère la préparation des données et le scoring pour FrontierScience, HiPhO, HLE-130 et SEAL-0.
- Entraînement : suivre axion/training/README.md pour effectuer les deux phases de SFT et le GRPO asynchrone, les points de contrôle entraînés doivent d'abord être exportés au format Hugging Face avant d'être servis avec vLLM.
Risques
- Le README qualifie le point de contrôle 35B de version reproduite par la communauté, et non de point de contrôle Axion officiel ; les poids pour les variantes 122B du papier ainsi que les variantes 4B / 9B entraînées uniquement avec SFT ne sont pas disponibles.
- L'évaluation des agents nécessite un cadre externe dédié à l'exécution des appels d'outils, les scripts d'évaluation du dépôt ne gèrent que la préparation des données et le scoring ; le RL nécessite de répartir le rollout, l'entraînement et les services auxiliaires sur différents pools de GPU, ce qui rend la reproduction difficile.
- Dans le tableau comparatif, les scores des lignes de base marqués d'un * ont été mesurés par l'équipe Axion, les autres proviennent des rapports officiels ; tous les scores sont rapportés par les auteurs.