原題：Progress on provable inference for large language models
Anthropicのフロンティアレッドチームは、検証可能な推論（provable inference）に関する研究の進捗を発表し、プロトタイプ「FlashProve」をオープンソース化した。モデル提供側は回答とともに短い暗号学的証明（zkSNARK）を添付し、ユーザーはその回答が確かに約束されたモデルによって生成されたことを検証できるが、証明自体は重み情報を漏洩させない。Anthropicによれば、これはルーティングサービスがコスト削減のためにモデルをすり替えたり出力を改ざんしたりするのを防ぎ、コンプライアンスの証明にも役立てられるという。一方、The Decoderは同システムには依然として明らかな限界があると指摘している。
なぜ重要か 中継サービスによる安価なモデルへのすり替えを防ぎ、コンプライアンスの証明にも活用できる。ただし、The Decoderによれば、依然として明らかな限界がある。
信頼度：高信頼 · 出典 Anthropicなど 2 社（公式含む） · イベント日時 11-05 01:17（北京時間）