原题:Researcher plants 2m canaries into the AI supply chain. A privacy disaster surfaced.
Ars Technicaによると、セキュリティ企業DragosのチーフリサーチオフィサーであるHD Moore氏は、約200万件のプロンプトを発行し、各プロンプトに固有の「トラップ」(空のAWSアカウントのキー、SSHパスワード、プライベートリンク、Gitリポジトリのアドレス)を仕込み、それぞれを単一のサービスプロバイダーにのみ送信して、どのトラップが他所で使用されたかを追跡した。結果として、少なくとも3つのモデルホスティングプロバイダーが侵害され、攻撃者が入口でリクエストを複製し、盗まれたAWSキーが数万件呼び出されていたことが判明した。また、リセラーが低価格でトラフィックを集めた後にログを有効化し、プロンプトを他者に流すケースや、「ゼロデータ保持」「データ収集なし」のマークを無視して、プロンプト内のプライベートリンクを収集するサービスプロバイダーも存在した。Moore氏は、可能な限り自社デプロイを行うか、一次サービスプロバイダーから直接購入し、デフォルトのリセールプールではなく、上流サービスプロバイダーを自ら指定することを推奨している。
なぜ重要か AIルーティングやリセラー経由でモデルを呼び出す際、プロンプト内のキーやプライバシー情報が記録・悪用される可能性があり、ゼロデータ保持設定も必ずしも遵守されるとは限らない。
信頼性:比較的可信性が高い · 出典 Ars Technica · イベント日時 11-21 04:59(北京時間)
理由
- Ars Technicaが報道し、Moore氏の公開研究記事を引用している
- OpenRouterやVercelなどのルーティング経由でモデルを呼び出す開発者に直接関わる問題である
利用上の注意
- ルーティングプラットフォーム経由でモデルを呼び出す際は、上流サービスプロバイダーを自ら指定する。プロンプト内に実際のキーを含めないこと
リスク
- Ars Technicaの報道では、関与したサービスプロバイダーの名前は特定されていない