Original : Axion1-0/Axion-1.0-35B
Axion 1.0 est une recette de modèle de base agentique open source proposée par des équipes de l'Université Duke, ByteDance, etc. : d'abord un SFT (apprentissage du raisonnement) sur des problèmes scientifiques difficiles, puis un SFT (apprentissage de l'enquête) sur des tâches vérifiables nécessitant la recherche d'informations et l'utilisation d'outils, enfin un apprentissage par renforcement sur des trajectoires d'agents, avec environ 1.8 000 exemples de données SFT. Ce dépôt contient un point de contrôle de reproduction entraîné selon cette recette (35B, paramètres totaux d'environ 350 00 millions, paramètres activés d'environ 30 00 millions, base Qwen3.6-35B-A3B). Les auteurs rapportent des scores de 52.8 sur HLE, 60.4 sur SEAL-0 et 85.0 sur les problèmes olympiques FrontierScience, proches des 52.2, 62.2 et 86.0 rapportés dans le papier.
Pourquoi c'est important L'entraînement n'utilise que deux phases de SFT suivies d'un apprentissage par renforcement. Les données, le code et les poids de reproduction sont entièrement publics, ce qui convient aux chercheurs étudiant les recettes d'entraînement des agents pour comparaison
Score en hausse de 72 · J'aime 73 · Téléchargements 1315
Raisons
- Orienté vers les scénarios de recherche scientifique : raisonnement scientifique, récupération d'informations et résolution de problèmes avec outils. La fiche du modèle présente côte à côte les scores de la version papier et de la version reproduite
- Le jeu de données d'entraînement et le code d'entraînement complet (génération et filtrage des données, SFT en deux phases, apprentissage par renforcement asynchrone, évaluation) sont publics sur GitHub bytedance/axion1_0, sous licence Apache-2.0
Utilisation
- vllm serve Axion1-0/Axion-1.0-35B. L'exemple utilise 8 cartes GPU en parallélisme tensoriel, un contexte de 131072, avec les options --reasoning-parser qwen3 et --tool-call-parser qwen3_coder activées
- Pour exécuter des tâches d'agent avec outils, il faut configurer séparément un cadre d'exécution des appels d'outils. Voir le guide d'inférence dans le dépôt GitHub
Risques
- GitHub précise qu'il s'agit d'une reproduction communautaire, et non du point de contrôle officiel d'Axion
- Dans le tableau comparatif, les scores des autres modèles proviennent majoritairement de leurs rapports officiels respectifs, les configurations d'évaluation n'étant pas entièrement identiques
- Cette entrée n'a pas été exécutée ; les performances sont à vérifier selon la fiche du modèle