Российские разработчики должны будут проверять крупные ИИ-модели на соответствие традиционным духовно-нравственным ценностям. Без такой экспертизы модель не сможет получить статус национальной или суверенной, пишут «Ведомости» со ссылкой на участников обсуждения.
Проверку поручат нескольким независимым лабораториям из утверждённого государством списка. Требования к ним пока разрабатываются, а окончательное решение о соответствии модели будет принимать Минцифры.
Новые правила связаны с законом «О поддержке развития технологий искусственного интеллекта», который Госдума приняла в июле 2026 года. Закон выделяет национальные и суверенные модели: они должны соблюдать российское законодательство и традиционные ценности.
Для прохождения экспертизы разработчику потребуется раскрыть сведения о компании, описать архитектуру модели и встроенные фильтры. К заявлению также нужно будет приложить результаты самостоятельной проверки по общей методике оценки рисков.
Лаборатории протестируют, можно ли обойти ограничения модели с помощью специально составленных запросов и промпт-инъекций. Это инструкции, которые пытаются заставить ИИ проигнорировать системные правила. Ответы модели также проверят на специальных наборах заданий — бенчмарках.
Отдельный перечень ценностей создавать не планируют. За основу возьмут президентский указ № 809, где среди прочего перечислены жизнь, достоинство, права человека, патриотизм, крепкая семья, гуманизм, справедливость и историческая память.
Главная нерешённая часть — перевод этих понятий в воспроизводимые технические тесты. Бизнес-архитектор ИИ-проектов «Авандок» Алексей Борщов считает, что едиными должны стать формат отчёта, набор провокационных запросов и параметры проверки.
Эксперт центра ИИ «СКБ Контур» Дмитрий Иванков также указывает на необходимость заранее определить допустимые ответы и порядок повторных испытаний после обновления модели. Статус ИИ будет зависеть не только от его возможностей, но и от утверждённой процедуры оценки ответов.
