Titre original : internlm/Sage-S2.1-Flash
Modèle multimodal de recherche téléchargé par le Laboratoire d'intelligence artificielle de Shanghai le 11 15. La documentation de déploiement indique qu'il s'agit d'un MoE avec 320 B paramètres totaux et 18 B paramètres activés, utilisant l'architecture GLM-5.3-Flash, avec des poids BF16 d'environ 645 Go. Il combine la compréhension des données scientifiques, la récupération d'informations, la programmation et les appels d'outils ; il peut invoquer des logiciels spécialisés pour effectuer des analyses, puis ajuster l'étape suivante en fonction des résultats intermédiaires et des retours visuels. Grâce au projecteur de Sage SciPerception, il peut ingérer plus d'une dizaine de types d'entrées scientifiques, telles que les graphes moléculaires, les structures cristallines, les séquences protéiques et les structures tridimensionnelles. Une version FP8 est également disponible, avec le code et les poids sous licence MIT.
Pourquoi c'est important : Intégrer la compréhension et la récupération de plus d'une dizaine de types de données scientifiques, ainsi que la programmation et l'appel de logiciels, dans un seul modèle convient aux flux de travail de recherche nécessitant des analyses et des vérifications répétées.
Score en hausse 55 · J'aime 55 · Téléchargements 22
Raisons
- Selon les données officielles, parmi les 15 évaluations listées dans le graphique et les 6 modèles, il a obtenu la première place dans 4 catégories et la deuxième place dans 7 : MLE-bench Lite 90.3 (DeepSeek-V4.1-Flash-1017 est à 89.2), OfficeQA Pro 72.2, Harvey LAB 25.0, SpreadsheetBench 2 sont à 37.1.
- Les données scientifiques passent par le projecteur : les entrées telles que les molécules, les cristaux et les protéines sont d'abord encodées, puis projetées dans l'espace d'entrée du modèle de langage, permettant la prédiction de propriétés, la classification, la localisation de sites, l'analyse quantitative et l'inférence structurelle.
- Licence MIT, disponible sur Hugging Face et ModelScope ; une version FP8 ainsi que des instructions de déploiement pour LMDeploy, vLLM et SGLang sont également fournies.
Utilisation
- Tâches générales (programmation, bureautique, contrôle d'ordinateur) : Suivez la recette officielle GLM-5.3-Flash pour installer vLLM 0.33.0, SGLang 0.5.20+ ou LMDeploy, remplacez le nom du modèle par internlm/Sage-S2.1-Flash, et ajoutez --trust-remote-code à chaque moteur ; l'exemple officiel utilise 8 cartes H200 (--tensor-parallel-size 8).
- Pour vLLM, exécutez d'abord hf download internlm/Sage-S2.1-Flash --include "vllm_patch/*" pour récupérer le correctif et appliquez-le selon son README (correction du problème où les images étaient associées aux mauvais résultats lors des appels d'outils parallèles) ; pour SGLang, utilisez --chat-template pour spécifier le fichier chat_template.jinja fourni dans le dépôt.
- Entrées scientifiques : Téléchargez projectors/sage-s2.1-flash/ depuis ce dépôt, ainsi que load_projector.py et modeling_projector.py depuis internlm/Sage-SciPerception ; utilisez le projecteur pour générer prompt_embeds, activez --enable-prompt-embeds dans vLLM, puis envoyez les requêtes à /v1/completions.
Risques
- Taille importante : BF16 fait environ 645 Go, l'exemple officiel utilise 8 cartes H200, ce qui est impossible sur un ordinateur personnel ; le cache KV FP8 n'est pas pris en charge sur les cartes H100 / H200.
- Les scores proviennent tous des graphiques officiels ; plusieurs scores de programmation sont inférieurs aux modèles comparés, par exemple SWE-bench Pro 60.6 et NL2Repo-Bench 57.2, qui sont tous deux inférieurs à Claude Opus 5 et DeepSeek-V4.1-Flash-1017.
- L'oubli de --trust-remote-code ne génère pas d'erreur, mais traite des chaînes telles que <tool_call> comme des caractères de contrôle, entraînant un arrêt prématuré ou des erreurs d'appel d'outils ; il existe également un problème connu avec les réponses non-streaming de vLLM.
- Les entrées scientifiques nécessitent l'installation séparée d'un encodeur scientifique et de dépendances de prétraitement, rendant le flux plus complexe que pour un modèle de conversation standard ; cette entrée n'a pas été exécutée.