Исследователи разместили почти два миллиона приманок в цепочке передачи данных ИИ и обнаружили утечку промптов

По данным Ars Technica, HD Moore, главный исследователь безопасности компании Dragos, отправил почти 200 тысяч промптов, в каждый из которых была заложена уникальная «приманка» (ключи от пустого аккаунта AWS, пароли SSH, приватные ссылки и адреса Git-репозиториев). Каждый промпт отправлялся только одному поставщику услуг, после чего исследователи проверяли, где именно использовались эти приманки. Результаты показали: как минимум три хостинг-провайдера моделей были скомпрометированы; злоумышленники копировали запросы на входном узле, а украденные ключи AWS были использованы десятки тысяч раз; некоторые реселлеры привлекали трафик низкими ценами, а затем включали логирование и передавали промпты третьим лицам; другие провайдеры игнорировали метки «нулевое хранение данных» и «сбор данных не производится», извлекая приватные ссылки из промптов. Moore рекомендует по возможности развертывать решения самостоятельно или покупать услуги напрямую у первичных провайдеров, самостоятельно выбирая вышестоящего поставщика услуг и избегая использования стандартных пулов реселлеров.

Оригинал: Researcher plants 2m canaries into the AI supply chain. A privacy disaster surfaced.

По данным Ars Technica, HD Moore, главный исследователь безопасности компании Dragos, отправил почти 200 тысяч промптов, в каждый из которых была заложена уникальная «приманка» (ключи от пустого аккаунта AWS, пароли SSH, приватные ссылки и адреса Git-репозиториев). Каждый промпт отправлялся только одному поставщику услуг, после чего исследователи проверяли, где именно использовались эти приманки. Результаты показали: как минимум три хостинг-провайдера моделей были скомпрометированы; злоумышленники копировали запросы на входном узле, а украденные ключи AWS были использованы десятки тысяч раз; некоторые реселлеры привлекали трафик низкими ценами, а затем включали логирование и передавали промпты третьим лицам; другие провайдеры игнорировали метки «нулевое хранение данных» и «сбор данных не производится», извлекая приватные ссылки из промптов. Moore рекомендует по возможности развертывать решения самостоятельно или покупать услуги напрямую у первичных провайдеров, самостоятельно выбирая вышестоящего поставщика услуг и избегая использования стандартных пулов реселлеров.

Почему это важно При вызове моделей через маршрутизаторы ИИ и реселлеров ключи и конфиденциальные данные, содержащиеся в промптах, могут записываться и похищаться, а настройки нулевого хранения данных не всегда соблюдаются.

Достоверность: достаточно достоверно · Источник Ars Technica · Время события 11-21 04:59 (пекинское время)

Обоснование

  • Репортаж Ars Technica, ссылающийся на опубликованную исследовательскую статью Moore
  • Непосредственно касается разработчиков, вызывающих модели через такие маршрутизаторы, как OpenRouter и Vercel

Рекомендации по использованию

  • При вызове моделей через платформы маршрутизации самостоятельно указывайте вышестоящего поставщика услуг; не размещайте реальные ключи в промптах

Риски

  • В репортаже Ars Technica не названы конкретные вовлеченные провайдеры услуг

Открыть

Ars Technica

Открыть последние новости ИИ