Anthropic поручила моделям Claude проверить 25 популярных open-source проектов. ИИ искал не отдельные уязвимости, а участки кода, доступные злоумышленнику без необходимости. Всего система отметила 493 таких проблемы.
Проверка охватила более пяти миллионов строк на C, C++, Java, PHP и Python. Claude также разобрал свыше 17 тысяч настроек. Почти 3,9 тысячи из них влияли на механизмы безопасности.
Особенно много проблем обнаружилось в сервисах, где доступ должен открываться только после входа. Во всех 11 проектах этой группы часть кода была доступна до авторизации. Claude нашёл 93 лишние поверхности для атаки, 37 случаев запуска кода или сохранения данных до входа и 61 сочетание настроек, которое незаметно ослабляло защиту.
Всего модель выявила 162 конфликтующие комбинации параметров безопасности. В 94 случаях они без предупреждения отключали защитный механизм. Одна из таких ошибок оставалась в коде 21 год: настройка отложенной проверки сертификата полностью отменяла требование подтвердить личность клиента. Сервер, настроенный только на доверенных пользователей, в результате принимал любого.
Заметный результат Claude показал и при анализе OpenSSH 10.4 — одной из самых тщательно проверяемых программ для удалённого доступа к серверам. Около 4,5 тысячи строк кода для постквантовых подписей были доступны клиенту до авторизации, даже если администратор отключал соответствующий алгоритм. Это составляло примерно 16% кода демона SSH, доступного до входа. Разработчики OpenSSH получили отчёт и патчи, а исправления вошли в версии 10.5 и 10.6.
Anthropic подчёркивает, что такой подход не устраняет неизвестные уязвимости. Он сокращает доступную извне часть программы и тем самым усложняет эксплуатацию ошибок. Результаты пока представлены самой компанией в предварительном исследовании, однако изменения OpenSSH уже отражены в публичных примечаниях к выпускам.
