研究员向 AI 中转链路投放近两百万个诱饵,发现提示词外泄

据 Ars Technica,安全公司 Dragos 首席研究官 HD Moore 发出近 200 万条提示词,每条里埋一个独一无二的“诱饵”(空 AWS 账号的密钥、SSH 密码、私有链接和 Git 仓库地址),每个只发给一家服务商,再看哪些诱饵在别处被用。结果显示:至少三家模型托管商遭入侵,攻击者在入口处复制请求,偷到的 AWS 密钥被调用了数万次;有转售商用低价吸引流量后开启日志,把提示词流给别人;还有服务商无视“零数据保留”“不收集数据”标记,抓取提示词里的私密链接。Moore 建议尽量自建部署,或直接向一线服务商购买,并自己指定上游服务商,不用默认的转售池。

原题:Researcher plants 2m canaries into the AI supply chain. A privacy disaster surfaced.

据 Ars Technica,安全公司 Dragos 首席研究官 HD Moore 发出近 200 万条提示词,每条里埋一个独一无二的“诱饵”(空 AWS 账号的密钥、SSH 密码、私有链接和 Git 仓库地址),每个只发给一家服务商,再看哪些诱饵在别处被用。结果显示:至少三家模型托管商遭入侵,攻击者在入口处复制请求,偷到的 AWS 密钥被调用了数万次;有转售商用低价吸引流量后开启日志,把提示词流给别人;还有服务商无视“零数据保留”“不收集数据”标记,抓取提示词里的私密链接。Moore 建议尽量自建部署,或直接向一线服务商购买,并自己指定上游服务商,不用默认的转售池。

为什么重要 通过 AI 路由和转售商调用模型时,提示词里的密钥和隐私可能被记录、盗用,零数据保留设置也未必被遵守。

可信度:较可信 · 来源 Ars Technica · 事件时间 11-21 04:59(北京时间)

理由

  • Ars Technica 报道,引用 Moore 公开的研究文章
  • 直接关系到通过 OpenRouter、Vercel 这类路由调用模型的开发者

用法

  • 通过路由平台调用模型时,自己指定上游服务商;不要在提示词里放真实密钥

风险

  • Ars Technica 的报道没有点名涉事服务商

打开

Ars Technica

浏览最新 AI 动态