Titre original : Progress on provable inference for large language models
L'équipe Frontière Rouge d'Anthropic publie des avancées dans la recherche sur l'inférence prouvable (provable inference) et ouvre le code source du prototype FlashProve : les fournisseurs de modèles joignent une courte preuve cryptographique (zkSNARK) à chaque réponse, permettant aux utilisateurs de vérifier que la réponse a bien été générée par le modèle promis, sans que la preuve ne révèle les poids du modèle. Anthropic indique que cela peut empêcher les services de routage de substituer des modèles moins coûteux ou d'altérer les sorties pour réduire les coûts, et peut également aider à prouver la conformité ; The Decoder note que ce système présente encore des limites évidentes.
Pourquoi c'est important Cela permet d'empêcher les services intermédiaires de substituer des modèles moins chers, et peut être utilisé pour prouver la conformité ; The Decoder note que des limites évidentes subsistent.
Fiabilité : Haute fiabilité · Sources incluant Anthropic et 2 autres (y compris officielles) · Date de l'événement 11-05 01:17 (heure de Pékin)