SingProbe est une sonde d'attention intégrée à DeepSeek-V4.1-Flash-1017, qui lit les états cachés des couches 12, 25 et 39, et fournit, mot par mot pendant la génération, des scores pour 8 types d'intentions de question, l'insécurité des réponses et le risque d'hallucination. La fiche du modèle indique une F1 de 0.8756 pour la classification des intentions de question, une F1 de 0.8668 pour la classification de la sécurité des réponses, un AUC au niveau de la réponse pour la sécurité en streaming de 0.9907, et un AUC de détection d'hallucination de 0.7951, proche des 0.8000 de la méthode de référence DRIFT ; la méthode et le code d'entraînement sont disponibles dans le rapport technique et le dépôt SingProbe.
Pourquoi c'est important La sonde lit directement les états cachés internes du modèle, avec un nombre très faible de paramètres, ce qui évite d'exécuter séparément un modèle de garde-fou ; les auteurs affirment que les performances sur plusieurs classifications de sécurité sont équivalentes ou supérieures à celles des modèles de garde-fou dédiés de 8B.
Score en hausse 2 · J'aime 2 · Téléchargements 0
Raisons
- Licence MIT, téléchargé le 19 11 ; rapport technique arXiv et dépôt de code d'entraînement fournis
- La fiche du modèle liste les lignes de base de comparaison (Qwen3Guard, YuFeng-XGuard, etc.) et les seuils de validation au moment de la publication
Utilisation
- Nécessite une branche SGLang avec fonctionnalité token-probe et 8 cartes H20 : lors du démarrage, utilisez --probe-ckpt pour pointer vers ce dépôt, lisez les scores depuis meta_info.token_probe_probs renvoyé par /generate, label_8 correspond à l'insécurité de la réponse et label_9 au risque d'hallucination
Risques
- La branche SGLang pour une prise en main rapide est hébergée sur code.alipay.com, l'accès externe est inconnu, et les commandes d'exemple utilisent également des chemins internes aux auteurs
- Les chiffres d'évaluation sont tous auto-déclarés par les auteurs ; seule cette version 1017 est adaptée