原題:Introducing AlphaProof Code: a breakthrough in verifying complex software at depth
Google DeepMindはマルチモデル・エージェントフレームワーク「AlphaProof Code」を発表した。研究者とモデルがまずSignalプロトコルのセキュリティ目標を形式仕様として記述し、項目ごとに人手でレビューを行う。その後、Gemini Carbon駆動のエージェントがLean証明を生成し、約1%の部分を人手による再確認が必要なものとして標識する。DeepMindによれば、検証はデバイス上で実際に実行されるコンパイル済みコードのレベルまで行われ、全体で4週間を要した。修正済みの実際の脆弱性2件を隔離されたバージョンに戻したところ、システムはいずれもこれらのバージョンが安全でないことを証明した。SignalのCTOであるEhren Kret氏はこの手法を評価しており、DeepMindは検証成果物をオープンソース化し、技術論文を発表する予定だと述べている。
なぜ重要か DeepMindによれば、これは広く展開されている暗号プロトコルに対して実装コードレベルでの形式検証を実現した初の事例であり、AIによりこうした証明をより多くの重要なソフトウェアへ適用できる可能性がある。
信頼性:高信頼 · 出典 Google DeepMind(公式含む) · イベント日時 11-10 20:02(北京時間)
理由
- DeepMindの公式ブログで発表され、技術論文とSignal CTOのコメントが添付されている
利用方法
- 技術論文およびオープンソース化された検証成果物はDeepMindのブログ記事から入手可能
リスク
- 証明の規模に関する記述に食い違いがある:公式RSS要約では300万行のLeanと記載されているが、ブログ本文では600多万行と記載されている
- 証明は仕様に明記されたセキュリティ特性のみをカバーしており、仕様は人間とモデルによって共同で記述されている