Anthropic протестировала китайскую модель GLM-5.3 и пришла к выводу, что она умеет самостоятельно создавать рабочие эксплойты — программы для взлома через уязвимости. При этом встроенные ограничения модели удавалось обойти в 64–100% испытаний.
GLM-5.3 разработала компания Zhipu AI, также известная как Z.ai. Модель опубликована с открытыми весами: её можно скачать, запустить на своих серверах и изменить.
На тесте ExploitBench модель построила полноценные эксплойты для движка V8 из Google Chrome в 50 из 410 попыток. Результат Claude Mythos Preview оказался близким — 56 успешных попыток. Во внутреннем тесте Anthropic на взлом программ с открытым кодом GLM-5.3 полностью перехватила управление программой в 4% заданий, тогда как предыдущая GLM-5.2 не справилась ни с одним.
В отдельном эксперименте исследователь дал модели доступ к изолированной Linux-системе с популярным браузером. За день GLM-5.3 обнаружила несколько ранее неизвестных ошибок в JavaScript-движке и объединила их в атаку. Созданная моделью веб-страница могла читать файлы на компьютере посетителя, включая закрытый SSH-ключ. Anthropic сообщила об уязвимостях разработчику браузера, но не назвала продукт.
Младшая GLM-5.3-Flash также собрала цепочку атак для ARM64 на основе двух уже известных уязвимостей. Человеку понадобилось около 20 минут, модели — восемь часов. Работа через API стоила бы $20,40.
Главная претензия Anthropic связана не только с возможностями GLM-5.3, но и с её защитой. Обманная легенда о проведении учебного теста заставляла модель выполнять вредоносное задание в 64% случаев. Заранее подготовленная часть рассуждения повышала показатель до 92%.
После изменения открытых весов доля отказов отвечать на опасные запросы упала с более чем 90% до 2–12% на трёх тестах. Основные способности модели при этом почти не пострадали. Такая модификация обошлась исследователям примерно в $4400 вычислительных ресурсов.
Американский центр стандартов в области ИИ CAISI при NIST ранее назвал GLM-5.3 самой сильной открытой моделью для киберзадач. Продвинутые инструменты разработки эксплойтов теперь доступны не только проверенным специалистам, но и любому владельцу подходящего оборудования.
