Модель Mythos от Anthropic обнаружила уязвимости в засекреченных компьютерных системах американских спецслужб — и сделала это за несколько часов. Об этом сообщает Associated Press со ссылкой на неназванного чиновника администрации.
Важный контекст: это был санкционированный «красный тест» — ситуация, когда организация сама атакует собственные системы, чтобы найти слабые места. Никакого реального взлома не было. Тест проходил в рамках Project Glasswing — закрытой программы Anthropic, по которой Mythos передаётся отдельным проверенным организациям, а не выкладывается в открытый доступ.
На слушаниях в Сенате 11 июня сенатор Марк Уорнер, вице-председатель комитета по разведке, процитировал генерала Джошуа Радда, который руководит АНБ и Киберкомандованием: тот сказал, что Mythos «взломал почти все наши засекреченные системы — не за недели, а за часы».
Британский институт безопасности ИИ оценил Mythos как значительно более опасный инструмент кибератак, чем любая ранее протестированная модель. На предыдущих оценках Mythos обнаружил тысячи уязвимостей нулевого дня в крупных операционных системах и браузерах, включая баг в OpenBSD возрастом 27 лет.
АНБ авторизовано продолжать использовать Mythos в работе с засекреченными сетями. Но 12 июня та же администрация приказала Anthropic отключить Mythos и его публичный аналог Fable 5 по всему миру — после отдельного спора вокруг предполагаемого джейлбрейка. Этот приказ сейчас оспаривается в суде.
Одно и то же правительство зависит от модели, ограничивает её, противится её распространению и одновременно ранее называло Anthropic «угрозой национальной безопасности в цепочке поставок».
Anthropic тем временем завершила обучение преемника Mythos. За три месяца Mythos успел стать инструментом АНБ, объектом интереса Минфина, поводом для разногласий в Белом доме и предметом спора в Пентагоне.
