Правительство США в пятницу обязало Anthropic немедленно отключить два своих мощнейших ИИ-ассистента — Claude Fable 5 и Claude Mythos 5. Официальная причина — соображения национальной безопасности. Anthropic подчинилась, но публично заявила, что считает решение ошибочным.
Директива поступила в 17:21 по восточному времени. Блокировка распространяется на всех пользователей мира — несмотря на то, что формально речь шла об экспортных ограничениях для иностранных граждан. Доступ к остальным моделям Anthropic не затронут.
Mythos — это модель, которую Anthropic специально держала под замком с момента создания. По словам компании, она способна находить уязвимости в любой крупной операционной системе и браузере. Вместо публичного релиза Anthropic запустила закрытую программу Project Glasswing: доступ получили около 50 отобранных организаций — Amazon, Apple, Google, Microsoft и CrowdStrike — для оборонительной работы в кибербезопасности.
Fable 5 вышел три дня назад — это коммерческая версия Mythos с ограничениями в опасных областях вроде кибербезопасности и биологии. По тестам компании Vals AI, отслеживающей производительность ИИ, Fable 5 стал самой мощной публично доступной моделью на момент выхода.
Правительство апеллирует к обнаруженному джейлбрейку Fable 5. Anthropic говорит, что получила только словесные свидетельства «потенциального узкого, неуниверсального джейлбрейка» — речь идёт об умении модели анализировать код и находить в нём уязвимости. По мнению компании, аналогичные возможности давно есть у GPT-5.5 от OpenAI, и их регулярно используют специалисты по кибербезопасности в легальных целях.
«Мы не согласны с тем, что обнаружение узкого потенциального джейлбрейка должно быть основанием для отзыва коммерческой модели, развёрнутой для сотен миллионов человек», — написала Anthropic. По её словам, если применять такой стандарт повсеместно, это фактически остановит все новые релизы у всех ведущих разработчиков.
Парадокс очевиден: именно демонстративная осторожность Anthropic с Mythos, которую компания сама описывала как слишком опасную для публики, привлекла то самое внимание властей, которое теперь бьёт по бизнесу. Сэм Альтман ещё в апреле назвал подход Anthropic «маркетингом на основе страха» — «Мы построили бомбу и продаём вам бомбоубежище за 100 миллионов», — процитировал он воображаемый слоган компании.
Anthropic ожидает IPO в этом году. Принудительное отключение флагманских моделей — плохое начало.
