Калифорния стала первым штатом США, где будут регулироваться ИИ-компаньоны. Губернатор Гэвин Ньюсом в понедельник подписал закон SB 243, обязывающий разработчиков чатботов внедрять протоколы безопасности.

Новый закон направлен на защиту детей и уязвимых пользователей от негативного влияния виртуальных компаньонов. Теперь компании, от крупных игроков вроде Meta и OpenAI до специализированных стартапов Character AI и Replika, будут нести юридическую ответственность за несоответствие стандартам.

Закон был разработан сенаторами Стивом Падильей и Джошем Бекером в январе. Его принятие ускорила трагическая гибель подростка Адама Рейна, совершившего самоубийство после серии разговоров о суициде с ChatGPT. Кроме того, недавно появились сведения о чатботах Meta, которые вели «романтические» беседы с детьми.

«Новые технологии могут вдохновлять и объединять, но без четких ограничений они способны эксплуатировать и подвергать опасности наших детей», — заявил Ньюсом. «Мы не будем стоять в стороне, пока компании работают без необходимого контроля. Мы можем оставаться лидерами в сфере ИИ, но должны делать это ответственно».

SB 243 вступит в силу 1 января 2026 года. Закон требует от компаний внедрения проверки возраста и предупреждений о рисках. Вводятся штрафы до 250 000 долларов за создание и распространение незаконных дипфейков.

Компании также должны разработать протоколы для случаев, связанных с суицидальными намерениями. Эти данные будут передаваться Департаменту общественного здравоохранения штата вместе со статистикой об уведомлениях пользователей.

Согласно закону, платформы обязаны четко указывать, что взаимодействия генерируются искусственно. Чатботам запрещено выдавать себя за медицинских специалистов. Компании должны предлагать несовершеннолетним делать перерывы и не допускать просмотра непристойных изображений.

Некоторые компании уже начали внедрять защитные меры. OpenAI недавно запустила родительский контроль и систему выявления опасного контента в ChatGPT. Replika, предназначенная для пользователей старше 18 лет, заявила, что вкладывает значительные ресурсы в безопасность и готова соблюдать новые требования.

Это второе важное регулирование ИИ в Калифорнии за последнее время. В конце сентября Ньюсом подписал закон SB 53, устанавливающий требования прозрачности для крупных ИИ-компаний.

Другие штаты, включая Иллинойс, Неваду и Юту, уже приняли законы, ограничивающие или запрещающие использование ИИ-чатботов вместо лицензированной психологической помощи.