Оригинал: Researcher plants 2m canaries into the AI supply chain. A privacy disaster surfaced.
По данным Ars Technica, HD Moore, главный исследователь безопасности компании Dragos, отправил почти 200 тысяч промптов, в каждый из которых была заложена уникальная «приманка» (ключи от пустого аккаунта AWS, пароли SSH, приватные ссылки и адреса Git-репозиториев). Каждый промпт отправлялся только одному поставщику услуг, после чего исследователи проверяли, где именно использовались эти приманки. Результаты показали: как минимум три хостинг-провайдера моделей были скомпрометированы; злоумышленники копировали запросы на входном узле, а украденные ключи AWS были использованы десятки тысяч раз; некоторые реселлеры привлекали трафик низкими ценами, а затем включали логирование и передавали промпты третьим лицам; другие провайдеры игнорировали метки «нулевое хранение данных» и «сбор данных не производится», извлекая приватные ссылки из промптов. Moore рекомендует по возможности развертывать решения самостоятельно или покупать услуги напрямую у первичных провайдеров, самостоятельно выбирая вышестоящего поставщика услуг и избегая использования стандартных пулов реселлеров.
Почему это важно При вызове моделей через маршрутизаторы ИИ и реселлеров ключи и конфиденциальные данные, содержащиеся в промптах, могут записываться и похищаться, а настройки нулевого хранения данных не всегда соблюдаются.
Достоверность: достаточно достоверно · Источник Ars Technica · Время события 11-21 04:59 (пекинское время)
Обоснование
- Репортаж Ars Technica, ссылающийся на опубликованную исследовательскую статью Moore
- Непосредственно касается разработчиков, вызывающих модели через такие маршрутизаторы, как OpenRouter и Vercel
Рекомендации по использованию
- При вызове моделей через платформы маршрутизации самостоятельно указывайте вышестоящего поставщика услуг; не размещайте реальные ключи в промптах
Риски
- В репортаже Ars Technica не названы конкретные вовлеченные провайдеры услуг