同一の S-1/A 書類のリスク要因セクションに新たな記述が追加された。Anthropic は AI を用いて自社研究開発の加速をますます進めており、モデルの能力向上が、安全性、アライメント(整合性)、およびセキュリティ対策の追いつきを上回る可能性がある。同社は過去に、研究開発の著しい加速をタイムリーに検知できなかった事例があり、将来も事後にしか気づかない可能性がある。目論見書によれば、社内推定および既存モデルではなく将来のモデルに対する予測に基づき、同社は「責任ある拡張ポリシー(RSP)」で定義される「AI に起因する著しい加速的な進歩」の閾値に「まもなく到達する可能性がある」としている。現時点で、この閾値を越えたと認定されている既存モデルは存在せず、関連データの評価は継続中である。同社はまた、RSP の改訂を検討しており、研究開発プロセスにおける特定の決定事項について、人間のレビューおよび承認を義務付けることを想定している。
信頼度:高(95) · イベント日時 2026-11-02
理由
- 「AI がより強力な AI の構築を支援する」こと(メディアでは再帰的自己改善、RSI と呼ばれることが多い)は、最もリスクの高い能力の閾値の一つと見なされてきた。今回、前沿的なラボが、ブログやインタビューではなく、法的責任を伴う証券書類において、この閾値に近づいている可能性を認めた。
- 目論見書には同時に、技術的に可能であっても、意味のある人間の監督と理解がない状況では、Claude に次世代の前沿モデルの設計と訓練を完全に自律的に行わせることを安全に実施できないと、同社が予測している旨が明記されている。また、重み(ウェイト)の流出防止のためのセキュリティ対策を強化するため、新しい前沿ベースモデルの事前学習を 1 ヶ月以上延期したことも言及されている。
- AI 規制に関心を持つ者にとって、これは追跡可能な具体的なコミットメントを提供する。Anthropic は RSP に基づき、フォローアップレポートを公開すると述べている。
利用方法
- 原文は EDGAR 上の Anthropic S-1/A の「Risk Factors(リスク要因)」セクションにある(「dramatically accelerated progress attributable to AI」で検索)。フォローアップレポートについては、Anthropic の RSP ページを確認すること。
リスク
- 目論見書はリスク開示であり、表現は「可能性」であって、実現済みであることを宣言しているわけではない。TechCrunch も、目論見書にはマーケティング的な側面があることを指摘している。
- 「まもなく」が具体的にどの程度の期間を指すのか、また閾値がどのように測定されるのかについては、書類には記載されておらず、Anthropic が RSP に基づき公開するレポートを待つ必要がある。