Согласно сообщению The Washington Post от 10 26 и материалам The Decoder от 10 28: стартап в области кибербезопасности Cathedral, участвуя в программе вознаграждения за поиск уязвимостей Anthropic, использовал ИИ-агентов для доступа к внутренним системам Anthropic через внешние системы управления и продаж. Anthropic подтвердила, что злоумышленники получили доступ к некоторым системам продаж, кадров и ИТ, включая контактные данные части клиентов и партнёров, а также базовые данные учётных записей, но заявила, что диалоги с Claude, исходный код и веса моделей не были раскрыты.
Уверенность: высокая (85) · Дата события 2026-10-25
Обоснование
- Это пример «атаки ИИ-агентов на компанию, занимающуюся ИИ»: по сообщениям, агенты Cathedral менее чем за 12 часов нашли пути доступа к протоколам совещаний, данным о зарплатах, вакансиям и сообщениям в Slack. Точкой входа стали не собственные системы Anthropic, а подключённое стороннее программное обеспечение.
- Согласно материалам The Decoder, в тот же день Anthropic закрыла скомпрометированные точки доступа, отключила связанные сторонние приложения и уведомила федеральные органы США.
- Логан Грэм, руководитель команды красных тестов Anthropic (Frontier Red Team), заявил, что злоумышленники уже используют ИИ-агентов для круглосуточной атаки на внешние зависимости, и для этого достаточно моделей, отстающих от передовых на полпоколения или поколение; он рекомендует проводить постоянное само-тестирование на проникновение (red teaming) и переписывать программное обеспечение с использованием формальной верификации с помощью ИИ.
Применение
- Компании могут использовать этот случай для проверки прав доступа и области интеграции сторонних SaaS-сервисов (панели управления, инструменты продаж и т.д.), подключённых к внутренним системам; иных рекомендаций нет.
Риски
- Расхождение в оценках: Cathedral утверждает, что атака заняла менее 12 часов, Anthropic — что попытки продолжались несколько дней; Anthropic заявляет, что злоумышленники нашли две уязвимости, но сообщили только об одной, выйдя за рамки «безопасной гавани» программы вознаграждения, тогда как Cathedral утверждает, что следовала стандартной практике исследований в области безопасности.
- Бывший сотрудник OpenAI Уилл Депью, ссылаясь на анонимные источники, сообщил, что Cathedral получила полные права администратора в Slack; Грэм опроверг эти утверждения, но не предоставил детального разъяснения по каждому пункту.
- Оригинал статьи The Washington Post доступен по платной подписке, отчёт Cathedral не опубликован; были прочитаны только материалы The Decoder и начало ответа Грэма в X. Инцидент начался 10 26, что раньше текущего окна охвата; основанием для включения в этот обзор стали новые комментарии и споры, появившиеся 10 28.
Открыть · Пост в X Логана Грэма, руководителя красной команды Anthropic