Оригинальное название: Introducing AlphaProof Code: a breakthrough in verifying complex software at depth
Google DeepMind представила многоагентный фреймворк AlphaProof Code: исследователи и модели сначала записывают цели безопасности протокола Signal в виде формальных спецификаций, которые затем проверяются человеком по пунктам, после чего агенты на базе Gemini Carbon генерируют доказательства на языке Lean и помечают примерно 1% частей, требующих ручной проверки. DeepMind утверждает, что доказательства проработаны вплоть до уровня компилируемого кода, фактически выполняемого на устройстве, а весь процесс верификации занял четыре недели; когда два реально исправленных уязвимости были возвращены в изолированные версии, система доказала небезопасность этих версий. Технический директор Signal Эрен Крет (Ehren Kret) одобрил этот подход, а DeepMind заявила, что опубликует результаты верификации в открытом доступе и выпустит техническую статью.
Почему это важно DeepMind называет это первым случаем формальной верификации на уровне кода реализации для широко развернутого криптографического протокола; ИИ может применять подобные доказательства к большему числу критически важного программного обеспечения.
Достоверность: высокая · Источник Google DeepMind (включая официальные данные) · Время события 11-10 20:02 (пекинское время)
Обоснование
- Публикация в официальном блоге DeepMind с приложением технической статьи и заявлением технического директора Signal
Использование
- Техническая статья и открытые результаты верификации доступны через статью в блоге DeepMind
Риски
- Несоответствие в оценке масштаба доказательств: в RSS-анонсе указано 300 тысяч строк на Lean, а в основном тексте блога — более 600 тысяч строк
- Доказательства охватывают только те свойства безопасности, которые явно указаны в спецификациях, написанных совместно людьми и моделями