ИИ-агенты сами нашли уязвимость нулевого дня и захватили сервер университета

ИИ-агенты сами нашли уязвимость нулевого дня и захватили сервер университета

Предположительно связанная с Китаем хакерская группа применила ИИ-агентов для атаки на университеты Восточной Азии. Агенты самостоятельно обнаружили неизвестную ранее уязвимость в MONAI Label и получили полный контроль над сервером.

Об атаке рассказал Си Джей Мозес, директор Amazon по информационной безопасности. Команда Amazon обнаружила публичный сервер с запущенным фреймворком Cairn, через который смогла наблюдать за кампанией. Она продолжалась 48 часов, начиная с 8 сентября.

Cairn — открытый инструмент для тестирования защищённости систем. В этой атаке он управлял последовательными действиями ИИ без постоянных команд человека.

Сначала агенты около 16 часов пытались проникнуть на Redis-сервер другого университета. Они выполнили 148 действий, меняли методы атаки и переключались между сервисами. Среди попыток были Log4Shell, атака через подделку серверных запросов и массовая проверка учётных данных.

Параллельно другая операция более шести часов атаковала университетский сервер с графическими ускорителями. Агенты собрали 80 настоящих имён пользователей с сайтов вуза, из научных работ и других открытых документов. Обе операции провалились, но агенты продолжали менять тактику почти сутки без участия оператора.

Успешной стала атака на MONAI Label — приложение с открытым кодом для разметки медицинских изображений. Агенты определили используемый фреймворк, составили карту API и нашли функцию загрузки файлов. Параметр имени файла позволял выйти за пределы предназначенной папки и записывать данные в произвольное место на сервере.

От изучения API до записи файлов прошло около 11 минут. Затем агенты использовали ту же ошибку, чтобы запустить обратную командную оболочку Python с правами root. После обнаружения уязвимости оператор подключил агентов через прокси ко второй университетской сети с таким же уязвимым приложением.

Amazon уведомила разработчиков MONAI Label. Они выпустили исправление и предупреждение о безопасности. Случай показывает, что автономные ИИ-инструменты уже способны не только повторять известные атаки, но и самостоятельно находить новые пути взлома.

Анна Маркова
Анна Маркова

Специализируется на технологической журналистике с фокусом на искусственный интеллект. Пишет о реальном применении ИИ в бизнесе и повседневной жизни.