ИИ-система Big Sleep, разработанная совместными усилиями исследовательского подразделения Google DeepMind и элитной команды хакеров Project Zero, обнаружила первую группу из 20 уязвимостей в популярном ПО с открытым кодом. Информацию об этом сообщила Хезер Адкинс, вице-президент Google по безопасности.

Уязвимости были выявлены в широко используемых программных продуктах, включая библиотеку для работы с аудио и видео FFmpeg и пакет для обработки изображений ImageMagick.

Технические детали и степень критичности обнаруженных проблем пока не раскрываются, поскольку Google придерживается стандартной отраслевой практики ответственного раскрытия информации – компания ожидает, когда разработчики устранят выявленные бреши в безопасности.

«Для обеспечения высокого качества и практической ценности отчетов мы привлекаем эксперта-человека перед отправкой сообщений об уязвимостях, однако каждая уязвимость была обнаружена и воспроизведена ИИ-агентом без человеческого вмешательства», – пояснила Кимберли Самра, представитель Google, в комментарии для TechCrunch.

Ройал Хансен, вице-президент Google по инженерным вопросам, охарактеризовал результаты как «новый рубеж в автоматизированном обнаружении уязвимостей», подчеркнув прорывной характер технологии.

Технологическая архитектура Big Sleep представляет собой синтез передовых разработок Google в области искусственного интеллекта и практического опыта исследования уязвимостей.

Система использует большие языковые модели (LLM) для анализа программного кода, что позволяет автоматизировать процесс поиска потенциальных брешей в безопасности. Гибридный подход, сочетающий автономные возможности ИИ с экспертным контролем, обеспечивает баланс между производительностью и точностью результатов.