DeepMind формализует верификацию кода шифрования Signal с помощью ИИ-агентов

Google DeepMind представила многоагентный фреймворк AlphaProof Code: исследователи и модели сначала записывают цели безопасности протокола Signal в виде формальных спецификаций, которые затем проверяются человеком по пунктам, после чего агенты на базе Gemini Carbon генерируют доказательства на языке Lean и помечают примерно 1% частей, требующих ручной проверки. DeepMind утверждает, что доказательства проработаны вплоть до уровня компилируемого кода, фактически выполняемого на устройстве, а весь процесс верификации занял четыре недели; когда два реально исправленных уязвимости были возвращены в изолированные версии, система доказала небезопасность этих версий. Технический директор Signal Эрен Крет (Ehren Kret) одобрил этот подход, а DeepMind заявила, что опубликует результаты верификации в открытом доступе и выпустит техническую статью.

Оригинальное название: Introducing AlphaProof Code: a breakthrough in verifying complex software at depth

Google DeepMind представила многоагентный фреймворк AlphaProof Code: исследователи и модели сначала записывают цели безопасности протокола Signal в виде формальных спецификаций, которые затем проверяются человеком по пунктам, после чего агенты на базе Gemini Carbon генерируют доказательства на языке Lean и помечают примерно 1% частей, требующих ручной проверки. DeepMind утверждает, что доказательства проработаны вплоть до уровня компилируемого кода, фактически выполняемого на устройстве, а весь процесс верификации занял четыре недели; когда два реально исправленных уязвимости были возвращены в изолированные версии, система доказала небезопасность этих версий. Технический директор Signal Эрен Крет (Ehren Kret) одобрил этот подход, а DeepMind заявила, что опубликует результаты верификации в открытом доступе и выпустит техническую статью.

Почему это важно DeepMind называет это первым случаем формальной верификации на уровне кода реализации для широко развернутого криптографического протокола; ИИ может применять подобные доказательства к большему числу критически важного программного обеспечения.

Достоверность: высокая · Источник Google DeepMind (включая официальные данные) · Время события 11-10 20:02 (пекинское время)

Обоснование

  • Публикация в официальном блоге DeepMind с приложением технической статьи и заявлением технического директора Signal

Использование

  • Техническая статья и открытые результаты верификации доступны через статью в блоге DeepMind

Риски

  • Несоответствие в оценке масштаба доказательств: в RSS-анонсе указано 300 тысяч строк на Lean, а в основном тексте блога — более 600 тысяч строк
  • Доказательства охватывают только те свойства безопасности, которые явно указаны в спецификациях, написанных совместно людьми и моделями

Открыть

Google DeepMind

Открыть последние новости ИИ