Titre original : HAL-X-AI/THX-02
Le « modèle de décision à réflexion » de HAL-X-AI : on lui fournit un état (messages, tickets, documents, enregistrements JSON, trajectoires d’agents, photos ou graphiques) et une question formulée en langage naturel ; il attribue une probabilité à chaque option pour chaque question, sans générer de texte libre. Les questions sont classées en trois catégories : choix unique (jusqu’à 255 options), vrai/faux et notation ordonnée ; une requête peut contenir au maximum 4 images. Le modèle compte 4.5 milliards de paramètres, avec un adaptateur de réflexion de 60 millions de paramètres : si la probabilité maximale de la réponse directe est inférieure à un seuil et que le jugement interne nécessite un raisonnement, il rédige d’abord quelques dizaines de mots de notes de raisonnement avant de décider. Les auteurs indiquent une latence médiane par requête de 50 millisecondes sans réflexion et de 79 millisecondes avec réflexion automatique (sur une carte RTX PRO 6000), obtenant un score de 65.06 sur un échantillon des ensembles publics du Decision Index 0.3.
Pourquoi c’est important Le triage des tickets, la modération de contenu et les actions d’interface ne nécessitent pas de réentraînement pour chaque nouvelle tâche ; les étiquettes sont directement incluses dans la requête
Score en hausse : 48 · J’aime : 50 · Téléchargements : 2134
Raisons
- Démonstration de cas d’usage tels que le triage multilingue des tickets de service client, la réservation de vols par clics successifs sur des captures d’écran et le jeu au Snake guidé par l’image, sans entraînement spécifique pour ces tâches
- Fournit un client PyPI sans dépendances et un serveur auto-hébergé, avec prise en charge des interfaces batch ; l’API est accessible via Termux sur Android, et le modèle peut s’exécuter localement sur les smartphones disposant de suffisamment de mémoire
- Poids sous licence Apache-2.0
Utilisation
- Après
pip install "thx02[local]", utilisezfrom thx02 import THX02; THX02.load("HAL-X-AI/THX-02")et appelezmodel.decide(état, dictionnaire_de_questions)pour obtenir les probabilités de chaque option - Serveur auto-hébergé : lancez
thx02-serve --model . --port 8200, puis envoyez des requêtes à/v1/decideou/v1/decide/batch; définissezthinksur "auto" pour activer la réflexion automatique
Risques
- Les scores proviennent de tests auto-réalisés par les auteurs sur un échantillon de 6,018 requêtes ; l’ensemble public complet et les tests du classement privé n’ont pas encore été effectués ; les scores des autres modèles dans les lignes de comparaison sont issus de leurs résultats publics respectifs
- La fonctionnalité de réflexion nécessite un service d’inférence GPU séparé ; sur CPU et smartphone, seules les réponses directes sont possibles
- Les auteurs rappellent que les probabilités ne sont calibrées que sur la distribution d’entraînement ; lors du passage à des domaines très différents, il faut d’abord vérifier avec quelques centaines d’exemples annotés
- Cette entrée n’a pas été exécutée ; l’efficacité réelle est à consulter dans la fiche modèle