AnyS1 : Déléguer les choix courants des compétences aux petits modèles

De nombreuses étapes des agents consistent simplement à choisir parmi quelques options connues (routage, tri, sélection d'outils, vérification d'état), mais appellent systématiquement un grand modèle. AnyS1 exploite le fait que les compétences procédurales rédigées par des humains, telles que SKILL.md, indiquent explicitement « où effectuer les choix et quelles sont les options disponibles » : il extrait hors ligne les points de décision de 1,072 compétences publiques, exécute des trajectoires dans des conteneurs isolés, collecte des états réels, construit le jeu de données Any-DP, et entraîne un modèle de pointeur de 4B avec lissage des étiquettes et confiance calibrée (basé sur Qwen3.5-4B-Base avec LoRA). À l'exécution, les compétences sont compilées en trois types de nœuds : les vérifications déterministes sont directement écrites en Python, les choix énumérables sont décidés par une seule passe avant du petit modèle (avec renvoi au grand modèle si la confiance est inférieure au seuil), et la génération ouverte reste confiée au grand modèle. L'article affirme que la fiabilité des tâches reste inchangée sur trois benchmarks non vus lors de l'entraînement, que le coût par session diminue de 75–91% par rapport aux agents à grands modèles non compilés, et que le temps d'appel du modèle diminue de 63–92%.

Titre original : Thinking Fast, Anywhere: One System-1 for the Decision Points of Any Agent Workflow

De nombreuses étapes des agents consistent simplement à choisir parmi quelques options connues (routage, tri, sélection d'outils, vérification d'état), mais appellent systématiquement un grand modèle. AnyS1 exploite le fait que les compétences procédurales rédigées par des humains, telles que SKILL.md, indiquent explicitement « où effectuer les choix et quelles sont les options disponibles » : il extrait hors ligne les points de décision de 1,072 compétences publiques, exécute des trajectoires dans des conteneurs isolés, collecte des états réels, construit le jeu de données Any-DP, et entraîne un modèle de pointeur de 4B avec lissage des étiquettes et confiance calibrée (basé sur Qwen3.5-4B-Base avec LoRA). À l'exécution, les compétences sont compilées en trois types de nœuds : les vérifications déterministes sont directement écrites en Python, les choix énumérables sont décidés par une seule passe avant du petit modèle (avec renvoi au grand modèle si la confiance est inférieure au seuil), et la génération ouverte reste confiée au grand modèle. L'article affirme que la fiabilité des tâches reste inchangée sur trois benchmarks non vus lors de l'entraînement, que le coût par session diminue de 75–91% par rapport aux agents à grands modèles non compilés, et que le temps d'appel du modèle diminue de 63–92%.

Pourquoi c'est important Appeler un grand modèle à chaque étape d'un agent est coûteux et lent ; cette approche ne nécessite pas d'écrire des hooks spécifiques pour chaque flux de travail, et le même petit modèle peut être directement utilisé sur des compétences jamais vues auparavant

J'aime 5 · Étoiles du code 2

Raisons

  • Le README liste trois benchmarks : SOPBench, ALFWorld et WebShop, où les grands modèles sont respectivement remplacés par DeepSeek-V4.1-Flash et GPT-6 Sol pour les tests, en utilisant le même checkpoint AnyS1-4B sans réentraînement
  • Les auteurs affirment qu'une décision unique du petit modèle prend 22–32 millisecondes sur une seule carte graphique H100 ; le seuil de démarrage à froid 0.918 est directement transférable, ou peut être calibré avec environ 50 exécutions d'ombre non annotées
  • Les poids smSquirrel/AnyS1-4B et le jeu de données smSquirrel/SkillDP sont publiés, le code est sous licence Apache-2.0

Utilisation

  • Code : installez avec https://github.com/middle-chunjie/AnyS1;pip install -e ., installez ".[train]" pour exécuter le petit modèle en local, puis lancez le service avec python -m anys1.model.serve_s1 --checkpoint smSquirrel/AnyS1-4B --port 8895
  • anys1 compile votre SKILL.md -o répertoire_de_sortie : par défaut, cela appelle trois fois le grand modèle pour extraire les points de décision (nécessite OPENAI_API_KEY), ajoutez --offline pour utiliser une analyse structurelle sans appel d'API ; cela produit decisions.json, SKILL.anys1.md avec des hooks de décision et workflow.py
  • anys1 mcp --compiled répertoire_de_sortie --s1-url http://127.0.0.1:8895/decide pour intégrer comme service MCP dans Claude Code, Cursor ou OpenHands ; anys1 calibrate ajuste les seuils en utilisant les journaux des exécutions d'ombre

Risques

  • La réduction des coûts est comparée à des agents à grands modèles « non compilés » ; le tableau du README montre que la simple compilation des compétences en flux de travail (tout restant confié au grand modèle) permet déjà d'économiser 56–86%, l'économie supplémentaire apportée par le petit modèle dépend de la différence entre ces deux valeurs
  • Il faut disposer de sa propre carte graphique pour exécuter le modèle de 4B ; les résultats sont rapportés par les auteurs et n'ont pas été vérifiés indépendamment dans cette entrée

Ouvrir · Code · Page de l'article

Hugging Face Daily Papers

Parcourir les dernières actualités IA