Titre original : Introducing AlphaProof Code: a breakthrough in verifying complex software at depth
Google DeepMind a publié le cadre d'agents multi-modèles AlphaProof Code : les chercheurs et les modèles rédigent d'abord les objectifs de sécurité du protocole Signal sous forme de spécifications formelles, qui sont ensuite examinées manuellement ligne par ligne, puis des agents pilotés par Gemini Carbon génèrent des preuves Lean et signalent environ 1% des parties nécessitant une relecture humaine. DeepMind affirme que les preuves ont été menées jusqu'au niveau du code compilé réellement exécuté sur les appareils, et que l'ensemble de la vérification a pris quatre semaines ; après avoir réintroduit deux vulnérabilités réelles corrigées dans des versions isolées, le système a prouvé que ces versions étaient non sûres. Ehren Kret, CTO de Signal, a approuvé cette méthode, et DeepMind a déclaré qu'il ouvrirait les artefacts de vérification et publierait un article technique.
Pourquoi c'est important DeepMind affirme qu'il s'agit de la première fois qu'une vérification formelle au niveau du code d'implémentation est réalisée pour un protocole de chiffrement largement déployé, montrant que l'IA peut appliquer ce type de preuve à davantage de logiciels critiques.
Fiabilité : Haute fiabilité · Source Google DeepMind (y compris officiel) · Date de l'événement 11-10 20:02 (heure de Pékin)
Raisons
- Publication sur le blog officiel de DeepMind, accompagnée d'un article technique et de la déclaration du CTO de Signal
Utilisation
- L'article technique et les artefacts de vérification open source sont accessibles via l'article du blog de DeepMind
Risques
- Les affirmations sur l'ampleur des preuves divergent : le résumé RSS officiel indique 300 lignes de Lean, tandis que le corps de l'article du blog indique plus de 600 lignes
- Les preuves ne couvrent que les propriétés de sécurité spécifiées dans les spécifications, qui sont rédigées conjointement par des humains et des modèles