Google DeepMind представила AlphaProof Code — систему из нескольких ИИ-агентов для формальной проверки программ. С её помощью исследователи подтвердили ключевые свойства безопасности кода, лежащего в основе протокола Signal.
Формальная проверка — это математическое доказательство того, что программа соответствует заданным требованиям. В отличие от обычных тестов, она рассматривает все состояния, описанные в модели, а не только отдельные сценарии работы.
Сначала несколько моделей перевели требования безопасности Signal в строгие математические спецификации. Каждую из них проверили специалисты. Затем агенты на базе Gemini 4 Carbon подготовили около 6 млн строк доказательств на языке Lean, который позволяет машине проверять логическую корректность рассуждений.
После этого ИИ проанализировал доказательства и отметил места, требующие ручной проверки. На них пришлось около 1% общего объёма. По данным команды, весь процесс занял четыре недели, хотя при традиционном подходе такая работа могла бы потребовать нескольких лет.
Исследователи также вернули в код две ранее исправленные ошибки. AlphaProof Code распознала изменённые версии как небезопасные. Этот эксперимент должен был показать, что система не просто подтверждает заранее ожидаемый результат, а отличает корректную реализацию от ошибочной.
Главное отличие проекта — уровень проверки. Формальные доказательства криптографических протоколов обычно относятся к их архитектуре или абстрактной модели. В этот раз команда дошла до скомпилированного кода, который исполняется на устройствах.
Эрен Крет, технический директор Signal, назвал автоматический перевод рабочего кода в проверяемые теоремы Lean серьёзным прорывом. Пушмит Коли, вице-президент Google DeepMind, заявил, что это первая формальная проверка реального производственного кода широко используемого протокола.
Результат не доказывает отсутствие любых уязвимостей в Signal. Он подтверждает конкретные свойства безопасности в пределах заданных математических спецификаций — вплоть до машинного кода.
