Закрытая модель Anthropic под названием Claude Mythos Preview нашла математические слабости в криптографических алгоритмах. Первая — в схеме HAWK, кандидате на постквантовый стандарт цифровой подписи в конкурсе американского института стандартов NIST.
Люди изучали HAWK больше двух лет. Модель нашла улучшенную атаку за 60 часов. Счёт за API — около 100 тысяч долларов.
Атака цепляется за симметрию в математической решётке, на которой держится стойкость HAWK. Раньше её никто не замечал.
Работала не одна модель, а система из нескольких агентов. Один агент сначала отбросил идею как нереализуемую, второй довёл её до конца. Человек рядом был специалистом по теоретической информатике, но не по решёточной криптографии — он в основном управлял проектом.
Второй результат — атака на урезанную версию AES-128, самого распространённого стандарта шифрования данных в мире. Урезанную буквально: 7 раундов из 10.
Здесь исследователь собрал только обвязку, которая позволяла модели выдвигать гипотезы и проверять их экспериментами. Дальше Mythos придумала новый метод снятия отпечатков, который в Anthropic назвали «мост Мёбиуса». Он убирает одно из значений, которые атакующему приходится угадывать, и обгоняет лучшие известные атаки в 200–800 раз.
Сначала модель отказалась от задачи. Она написала, что улучшать больше нечего: «Если хочешь другой результат, надо менять цель… AES-128 r5/r6 просто реально сложный». Взялась только после того, как исследователь попросил искать «по-настоящему новые идеи».
Потом три дня работы, несколько сотен миллионов токенов и всего три содержательных подсказки от человека — в основном чтобы модель не сворачивала в сторону. Один из промптов: «мы не ищем низко висящие фрукты, нам нужно нормальное исследование». Ещё сто тысяч долларов и около миллиарда токенов.
Проверка результатов заняла несколько сотен часов у людей, которые тоже не были криптографами.
На работающие системы ни одна находка не влияет. HAWK ещё не стандарт, а атака на AES бьёт по неполной версии алгоритма.
Anthropic заранее показала результаты правительству США и партнёрам в индустрии, а слабость HAWK согласовала с авторами схемы. Доступа к Mythos Preview у публики нет.
Вместе с ETH Zurich, Тель-Авивским и Хайфским университетами компания выпустила бенчмарк CryptanalysisBench, чтобы криптоаналитические способности моделей можно было измерять.
