Исследователи Google впервые зафиксировали атаку, в которой ИИ-агент самостоятельно нашёл уязвимость по выпущенному патчу, создал рабочий эксплойт и применил его. В результате злоумышленник получил доступ к организациям и похитил данные.
Об этом сообщила Google Threat Intelligence Group (GTIG), подразделение Google по анализу киберугроз. Компания связывает систему с предполагаемым русскоязычным оператором. На это указывали инструменты на русском языке, однако личность и местонахождение человека не установлены.
Исследователи обнаружили открытый тестовый сервер с платформой exploit_agent. Она объединяла несколько облачных и локальных языковых моделей и непрерывно проверяла популярные веб-приложения.
Система сравнивала код до и после обновления безопасности. По изменениям она определяла, какую ошибку исправили разработчики, искала способ её использовать, писала эксплойт и запускала атаку. Участие человека на этих этапах не требовалось.
На сервере также хранились украденные данные и скрипты для действий внутри взломанных сетей. Они проводили разведку, перебирали пароли, устанавливали веб-шеллы для удалённого доступа и удаляли аналогичные инструменты других злоумышленников.
Судя по найденным данным, оператора интересовали французские сайты из сферы медиа, развлечений и образования. Google не назвала пострадавшие организации и не уточнила, какие именно уязвимости использовала система.
GTIG наблюдает и другие автономные инструменты для атак, включая CAIRN, CyberStrikeAI, HexStrike AI и PentAGI. Последний применяли вместе с прокси-сервисами против аэрокосмического сектора. Такими платформами экспериментируют как финансово мотивированные преступники, так и группы, связанные с кибершпионажем.
Патч теперь не только закрывает дыру, но и даёт ИИ материал для автоматического создания эксплойта.