Titre original : sensenova/SenseNova-Loop-9B
Version officielle publiée par l'équipe SenseNova le 17 11 (une version Preview avait été publiée le 31 10). La fiche du modèle indique environ 9B de paramètres : dans le décodeur de 32 couches, les couches 4 à 27 partagent leurs poids et sont exécutées deux fois lors de chaque passe avant, ce qui donne un total de 56 couches de calcul (équivalent d'inférence officiel d'environ 14.6B), combiné à un double flux résiduel mHC et à une architecture hybride alternant 3 couches d'attention linéaire et 1 couches d'attention complète toutes les 4 couches. Entrées texte et images, sortie texte, contexte de 512K, destiné au raisonnement complexe, à la programmation, aux appels d'outils et aux tâches multimodales. Licence Apache-2.0.
Pourquoi c'est important Selon les chiffres officiels, les performances sur les benchmarks d'agents et d'analyse de données sont proches de celles des modèles Qwen trois fois plus volumineux, et les besoins en mémoire vidéo tombent à une dizaine de Go après quantification sur 4 bits
Score de progression 185 · J'aime 188 · Téléchargements 0
Raisons
- Selon les chiffres officiels, la version officielle dépasse la version Preview sur les 7 benchmarks présentés dans le graphique : AutomationBench 14.33 → 36.67, Terminal-Bench 2.1 40.45 → 59.55, GAIA 37.86 → 69.90 ; comparé à Qwen3.8-27B, AIDABench 65.31 contre 65.01, NL2Repo 41.36 contre 44.60
- Estimation officielle de la mémoire vidéo : environ 4.9 Go pour les poids en 4 bits, et environ 10 / 12 / 15 GiB pour des contextes de 64K / 128K / 256K avec un cache KV en 8 bits
- L'équipe officielle a réalisé des expériences sur le nombre de boucles : les scores sont meilleurs entre 3 et 4 boucles dans la plage de 1 à 4 ; pour concilier vitesse et performance, la valeur par défaut est fixée à 2 boucles ; la fiche contient des exemples animés de génération de pages web, de SVG, d'affiches et de scènes 3D
Utilisation
- Transformers 5.18.0 : ajoutez trust_remote_code=True à AutoTokenizer et AutoModelForCausalLM, utilisez bfloat16 comme dtype ; activez la réflexion avec enable_thinking=True dans apply_chat_template, désactivez-la en mettant False
- Déploiement de service : l'image officielle LightLLM (exemple --tp 4) fournit une interface compatible OpenAI ; pour vLLM et SGLang, il faut récupérer les PR non fusionnés (vLLM #64832, SGLang #47281) et installer manuellement
- Prise en charge du décodage spéculatif MTP, les scripts d'entraînement du modèle de brouillon sont disponibles sur GitHub OpenSenseNova/SenseSpec ; les exemples de fine-tuning sont sur OpenSenseNova/torchtitan
Risques
- Le téléchargement des poids nécessite de se connecter à Hugging Face et d'accepter les conditions d'accès (approbation automatique) ; les commandes de déploiement restent celles de la version Preview, l'équipe officielle précise que les versions du moteur et les configurations de la version officielle seront mises à jour ultérieurement
- La fiche indique qu'une version AWQ officielle en 4 bits sera disponible dès le premier jour, mais elle n'était pas encore présente dans la liste publique sous le nom sensenova au moment de la rédaction de cette note ; les chiffres de mémoire vidéo sont des estimations officielles
- Points faibles listés par l'équipe officielle : omission d'exigences lorsque les définitions d'outils et les contraintes sont nombreuses, instabilité sur la programmation et les tâches d'agents à longue chaîne, nécessité de deux ou trois itérations de correction pour les pages web complexes en 3D / animées ; tous les scores proviennent des graphiques officiels, cette note n'a pas effectué de tests