Стартап Cathedral с помощью ИИ-агентов получил доступ к части внутренних систем Anthropic. Исследование проводилось в рамках программы поиска уязвимостей, однако стороны спорят о допустимых границах проверки и масштабе доступа.
Точкой входа стали сторонние сервисы для администрирования и продаж. По версии Cathedral, агенты на базе продвинутых ИИ-моделей менее чем за 12 часов нашли пути к расшифровкам встреч, данным о зарплатах, вакансиям и сообщениям в Slack. Эти сведения содержатся в проекте отчёта, который изучила The Washington Post.
Anthropic подтвердила доступ к ограниченному набору систем отделов продаж, кадров и IT. Исследователи увидели контактные данные некоторых клиентов и партнёров, а также базовую информацию об учётных записях. Переписки пользователей с Claude, исходный код и веса моделей, по заявлению компании, затронуты не были.
После обнаружения проблемы Anthropic в тот же день закрыла точки входа, отключила сторонние программы до исправления уязвимостей и уведомила федеральные власти США.
Версии участников расходятся. Cathedral утверждает, что операция заняла менее 12 часов. Специалист красной команды Anthropic Логан Грэм говорит, что проверка продолжалась несколько дней, а к стороннему софту исследователи перешли после попыток атаковать собственные системы компании.
Anthropic также заявила, что Cathedral нашла две уязвимости, но сообщила только об одной. Вторую компания обнаружила и закрыла самостоятельно. По словам Грэма, извлечение данных через внешних поставщиков вышло за рамки правил программы. Cathedral настаивает, что действовала по стандартам исследований безопасности.
Спорным остаётся и объём доступа к Slack. Бывший сотрудник OpenAI Уилл Депью со ссылкой на свои источники заявил о полном административном доступе. Anthropic это отрицает, но не раскрывает технические детали.
По словам директора по безопасности Cognition Алекса Стамоса, интегрированные сторонние приложения представляют серьёзную проблему для отрасли. ИИ-агенту не обязательно взламывать модель, если проще пройти через внешний офисный инструмент.
