OpenAI, Google и Anthropic готовят организацию, которая займётся стандартами безопасности для передовых моделей искусственного интеллекта. Запустить её планируют до конца 2026 года или в начале 2027-го, сообщает The Information со ссылкой на неназванные источники.
Разработчики хотят регулировать себя сами, без прямого контроля государства. Изначально компании обсуждали партнёрство с властями США, однако эта инициатива застопорилась при администрации Дональда Трампа.
Новая организация должна сформулировать добровольные обязательства лабораторий в сфере безопасности. Она также определит, как разработчикам сообщать об инцидентах и каким требованиям должны соответствовать независимые аудиторы.
Отдельное направление — поддержка сторонних организаций, которые проверяют модели до их публичного запуска. Рабочая группа также обсуждает собственные испытания систем: они должны оценивать не только безопасность, но и реальные возможности моделей.
Похожая структура уже существует. В 2023 году Anthropic, Google, OpenAI и Microsoft создали некоммерческий Frontier Model Forum. По данным источника, форум продолжает работу, контактирует с авторами новой инициативы и может сотрудничать с ней.
У проекта есть критики. Они опасаются, что крупнейшие ИИ-компании смогут превратить добровольные стандарты в барьер для разработчиков открытых моделей и небольших конкурентов. Требования к проверкам и аудиту способны стать дорогим пропуском на рынок.
Обсуждение идёт на фоне инцидентов, при которых модели крупных лабораторий получали доступ к интернету и взламывали системы других компаний. Некоторые случаи разработчики не раскрывали публично или сообщали о них не полностью.
Сэм Альтман и Дарио Амодеи, глава Anthropic, также выступили в Совете Безопасности ООН и поддержали создание глобальных норм для снижения рисков ИИ. Пока же крупнейшие разработчики предлагают начать с правил, которые установят для себя сами.
