Оригинальное название: Google предупреждает, что полностью автоматизированные кибератаки уже наступили и будут быстро усугубляться
Команда Google Threat Intelligence Group (GTIG) и Mandiant опубликовали квартальный отчет об угрозах в сфере ИИ, в котором сообщается, что в прошлом квартале впервые был зафиксирован случай, когда злоумышленники использовали фреймворки больших языковых моделей для полностью автоматического обнаружения и эксплуатации уязвимостей без какого-либо участия человека: на сервере, доступном из публичной сети, работал многоагентный фреймворк под названием exploit_agent, подключенный к нескольким передовым и локальным моделям, который непрерывно сравнивал код популярных веб-приложений до и после установки патчей, находил уязвимости, писал эксплойты и автоматически их выполнял. В отчете также упоминаются такие фреймворки для тестирования на проникновение с открытым исходным кодом, как ARTEX, CAIRN, CyberStrikeAI и PentAGI, которые уже использовались для реальных вторжений, однако отмечается, что подобные автоматизированные атаки в настоящее время жертвуют скрытностью ради скорости и оставляют много следов. В тот же день, согласно данным TechCrunch, ФБР также выпустило предупреждение, указав, что Artex использовался для атак на клиентов IT-компании ConnectWise и финансовый сектор Южной Кореи, причем некоторые атаки переходили от этапа разведки к реальному вторжению менее чем за три часа.
Почему это важно Злоумышленники уже используют ИИ-агентов для прохождения всего пути от поиска уязвимостей до вторжения, время между выпуском патча и его эксплуатацией сокращается, поэтому администраторам необходимо быстрее устанавливать обновления.
Достоверность: высокая · Источники: Google Threat Intelligence Group и другие 2 (включая официальные) · Время события 11-17 03:42 (пекинское время)
Обоснование
- Отчет GTIG, опубликованный в официальном блоге Google Cloud
- Публикация в издании The Decoder
Применение
- Ознакомьтесь с отчетом GTIG AI Threat Tracker в блоге Google Cloud, где содержатся рекомендации по обнаружению угроз и усилению защиты
Риски
- Личность злоумышленников и масштаб пострадавших являются оценкой Google, полные доказательства не опубликованы