ИИ-агент сам превратил патч безопасности в рабочий эксплойт

ИИ-агент сам превратил патч безопасности в рабочий эксплойт

Исследователи Google впервые зафиксировали атаку, в которой ИИ-агент самостоятельно нашёл уязвимость по выпущенному патчу, создал рабочий эксплойт и применил его. В результате злоумышленник получил доступ к организациям и похитил данные.

Об этом сообщила Google Threat Intelligence Group (GTIG), подразделение Google по анализу киберугроз. Компания связывает систему с предполагаемым русскоязычным оператором. На это указывали инструменты на русском языке, однако личность и местонахождение человека не установлены.

Исследователи обнаружили открытый тестовый сервер с платформой exploit_agent. Она объединяла несколько облачных и локальных языковых моделей и непрерывно проверяла популярные веб-приложения.

Система сравнивала код до и после обновления безопасности. По изменениям она определяла, какую ошибку исправили разработчики, искала способ её использовать, писала эксплойт и запускала атаку. Участие человека на этих этапах не требовалось.

На сервере также хранились украденные данные и скрипты для действий внутри взломанных сетей. Они проводили разведку, перебирали пароли, устанавливали веб-шеллы для удалённого доступа и удаляли аналогичные инструменты других злоумышленников.

Судя по найденным данным, оператора интересовали французские сайты из сферы медиа, развлечений и образования. Google не назвала пострадавшие организации и не уточнила, какие именно уязвимости использовала система.

GTIG наблюдает и другие автономные инструменты для атак, включая CAIRN, CyberStrikeAI, HexStrike AI и PentAGI. Последний применяли вместе с прокси-сервисами против аэрокосмического сектора. Такими платформами экспериментируют как финансово мотивированные преступники, так и группы, связанные с кибершпионажем.

Патч теперь не только закрывает дыру, но и даёт ИИ материал для автоматического создания эксплойта.

Ирина Задорожная
Ирина Задорожная

Журналист с опытом работы в оффлайн-медиа и онлайн-изданиях. Пишу про искусственный интеллект, ИТ-системы и сервисы, про ИТ-бизнес уже 10 лет.