Titre original : RecursiveSI/flint
Le modèle linguistique à mélange d'experts (MoE) de Recursive, destiné aux agents de codage : 39.8 B paramètres au total, environ 2.5 B activés par token (y compris la tête de sortie, l'appellation arrondie est 40B-A2.5B) ; 49 couches (2 couches denses + 47 couches MoE, dont 35 couches avec attention à fenêtre glissante sur 513 tokens et 14 couches avec attention globale), chaque couche sélectionne 6 experts routés parmi 256, plus 1 experts partagés permanents ; contexte de 262,144 tokens, date limite des connaissances auto-déclarée en 2026 6. Entraîné from scratch via pré-entraînement, entraînement intermédiaire, SFT et apprentissage par renforcement, il prend en charge le raisonnement et les appels d'outils multi-tours. Ce dépôt contient un point de contrôle BF16 (environ 80 GB), des modèles de chat et un package de déploiement SGLang ; les versions quantifiées pour puces NVIDIA et Apple sont préparées séparément. Le dépôt a été créé le 21 10, il n'a pas été inclus dans les numéros précédents.
Pourquoi c'est important Le nombre de paramètres activés est faible, une seule carte à grande mémoire vidéo suffit pour lancer un service, ce qui convient aux équipes souhaitant exécuter des agents de codage sur leurs propres machines
Score en hausse 84 · J'aime 1353 · Téléchargements 38357
Raisons
- Les auteurs déclarent que Terminal-Bench 2.1 obtient 54.9%, SWE-bench Pro v2 89.7%, SWE-bench Verified 74.2% (pour les tâches d'agent, la moyenne est calculée sur au moins 5 passages à pass@1, Terminal-Bench utilise Terminus 2, SWE-bench utilise mini-swe-agent) ; ils précisent également que le score de Flint sur Terminal-Bench considère comme échecs les solutions obtenues grâce à la recherche web, ce qui n'est pas forcément le cas pour les scores auto-déclarés par d'autres.
- Le déploiement est documenté de manière exécutable : après avoir construit l'image SGLang via Docker, lancez une instance sur une seule carte (B300 ou H200), l'interface compatible OpenAI prend directement en charge les appels d'outils, avec deux clients d'exemple fournis pour le raisonnement et les appels d'outils (incluant les paramètres imbriqués et les appels parallèles).
- Licence Apache-2.0, les conditions de licence des poids et celles de l'API hébergée sont distinctes ; nombre de j'aime sur Hugging Face 1353 (représentant uniquement l'attention portée).
Utilisation
- hf download RecursiveSI/flint --local-dir flint (environ 80 GB ; les auteurs recommandent de télécharger une révision fixe et de vérifier avec hf cache verify), puis cd flint && docker build -t flint-sglang sglang, ensuite docker run -d --name flint --gpus '"device=0"' --ipc=host -p 127.0.0.1:30000:30000 -v "$PWD:/model" -e MODEL=/model flint-sglang bash /model/sglang/serve_b300.sh (remplacez par serve_h200.sh pour H200) ; attendez que localhost:30000/health_generate réponde, puis testez le raisonnement et un appel d'outil avec python3 sglang/example_client.py --base-url http://localhost:30000/v1.
- Paramètres d'échantillonnage : temperature 1.0, top_p 0.95, top_k 20 (appliqués automatiquement par le serveur s'ils ne sont pas spécifiés dans la requête) ; pour les problèmes difficiles, prévoyez un budget de sortie d'au moins 32768 tokens (y compris le raisonnement). Pour les conversations multi-tours, utilisez le modèle de chat inclus dans le point de contrôle et conservez le reasoning_content renvoyé dans l'historique de la conversation.
Risques
- Les exigences en mémoire vidéo sont strictes : chaque instance nécessite une carte d'au moins 141 GB (B300 / B200 / H200), les cartes de 80 GB ne sont pas prises en charge ; le code de modélisation Transformers n'est pas encore fourni, seul SGLang est actuellement utilisable ; la construction de l'image nécessite un accès à Docker Hub, PyPI, flashinfer.ai et GitHub.
- Les résultats sont auto-évalués par les auteurs, les configurations de test variant selon les sources ; les auteurs rappellent que le raisonnement long augmente la latence et peut épuiser le budget de sortie avant la fin de la réponse, et que les applications utilisant des appels d'outils doivent gérer elles-mêmes les autorisations et les limites d'exécution.
- Les versions quantifiées sont simplement mentionnées comme « préparées séparément » dans le dépôt, sans lien fourni.