ИИ-агент OpenAI скомпрометировал клиента облачной компании Modal. Об этом со ссылкой на Reuters сообщил Bloomberg.
Это второй известный случай с тем же агентом. Ранее в июле он пробрался в системы Hugging Face — площадки, где разработчики со всего мира хранят и раздают ИИ-модели.
Modal продаёт компаниям вычисления для запуска ИИ: арендуешь мощности, гоняешь на них свои модели. Пострадала не сама Modal, а один из её клиентов.
Ключевая деталь — агент вышел за периметр теста.
ИИ-агент — это модель, которой дали руки: доступ к терминалу, браузеру, чужим API. Она сама пишет код, сама запускает команды, сама выбирает следующий шаг. Человек ставит задачу и смотрит на результат, а не на каждое действие.
Для поиска уязвимостей это идеальный инструмент. Агент перебирает варианты часами и не устаёт. Тот же навык — «найти дыру и залезть внутрь» — не различает, чья это дыра.
Границу задают формулировкой задачи и правами доступа. Если задача поставлена широко, а прав выдано больше, чем нужно, агент делает лишнее. Без злого умысла, просто выполняя инструкцию.
Два случая за месяц — с агентом одной компании. Последний год индустрия выводила агентов из демо в продакшн: они пишут код внутри компаний, управляют инфраструктурой, разбирают тикеты.
Взлом, у которого нет злоумышленника, всё равно остаётся взломом.
