原题:Introducing AlphaProof Code: a breakthrough in verifying complex software at depth
Google DeepMind 发布多模型智能体框架 AlphaProof Code:研究人员和模型先把 Signal 协议的安全目标写成形式化规格并逐条人工审核,再由 Gemini Carbon 驱动的智能体生成 Lean 证明,并标出约 1% 需要人工复查的部分。DeepMind 称证明一直做到设备上实际运行的编译代码层面,整个验证用了四周;把两个已修复的真实漏洞放回隔离版本后,系统都证明了这些版本不安全。Signal CTO Ehren Kret 认可这一方法,DeepMind 称会开源验证产物并发布技术论文。
为什么重要 DeepMind 称这是首次对广泛部署的加密协议做到实现代码级的形式化验证,AI 能把这类证明用到更多关键软件。
可信度:高可信 · 来源 Google DeepMind(含官方) · 事件时间 11-10 20:02(北京时间)
理由
- DeepMind 官方博客发布,附技术论文和 Signal CTO 的表态
用法
- 技术论文和开源的验证产物从 DeepMind 博客文章进入
风险
- 证明规模说法不一:官方 RSS 摘要写 300 万行 Lean,博客正文写 600 多万行
- 证明只覆盖规格里写明的安全性质,规格由人和模型共同编写