Le « modèle de décision » post-entraîné par Base Labs (une division de Baseten) à partir de Qwen3.5-9B : il prend en entrée un état (texte, éventuellement avec images) et un ensemble de questions, effectue une seule pré-remplissage avec un préfixe partagé, puis fournit des probabilités calibrées pour chaque option de chaque question. Il peut être utilisé pour le routage des tickets, la classification et les jugements de garde-fous.
Score de montée 74 · J'aime 75 · Téléchargements 1344
Raison
- Trois types de questions : oui / non (retourne P(oui)), choix multiple (retourne les probabilités de chaque option), notation ordonnée (retourne les probabilités de chaque niveau) ; l'objectif d'entraînement ajoute un terme de calibration de Brier à l'entropie croisée, et une option « Je ne sais pas » a été entraînée.
- Selon les informations officielles, le Jev Decision Index 0.4 obtient 62.65, ce qui est le meilleur score pour les modèles de moins de 15B, et une égalité à la 8e place parmi 208 modèles ; sur la réplique maison de l'Artificial Analysis Decision Index, il obtient 65.2, à égalité avec d1-ultra (65) ; le modèle frère mammoth-1 de 27B obtient un score plus élevé (71.24).
- Les données d'entraînement comprennent 6.21M d'échantillons de décision, dont 16.1% concernent la sécurité et l'abstention ; la partie linguistique a été entièrement affinée, tandis que l'encodeur visuel a été gelé. Licence MIT, non inclus dans les numéros précédents.
Utilisation
- Auto-hébergement : hf download baselabs/elephant-1 --local-dir elephant-1 && bash elephant-1/setup.sh, installe le runtime de service OneJev à version fixe (applique serve.patch), nécessite un GPU CUDA et l'image pytorch/pytorch:2.8.0-cuda12.8-cudnn9-devel.
- Appel : DecisionEngine("baselabs/elephant-1", device="cuda:0").decide(SystemOneRequest(state=texte, questions={...})) ; dans questions, chaque question doit spécifier le type (noul / choice / score) et les instructions ; les types choice et score nécessitent également des critères.
Risques
- Longueur maximale de 16,384 tokens, les requêtes trop longues sont directement rejetées plutôt que tronquées ; les étiquettes de langue ne sont disponibles qu'en anglais.
- L'API gratuite hebdomadaire officielle de Baseten a pris fin le 27 10 ; l'un des deux indices est une réplique réalisée par les développeurs eux-mêmes.
- Ce n'est pas une inférence standard Transformers, il faut exécuter setup.sh et les correctifs du dépôt.