Калифорния стоит на пороге принятия первого в США закона о регулировании искусственного интеллекта. Законопроект SB 243, направленный на защиту несовершеннолетних и уязвимых пользователей от рисков общения с ИИ-собеседниками, получил поддержку обеих палат штата и направлен на подпись губернатору Гэвину Ньюсому.

У губернатора есть время до 12 октября, чтобы наложить вето или подписать документ. В случае одобрения закон вступит в силу 1 января 2026 года, и Калифорния станет первым штатом, который обяжет операторов ИИ-чатботов внедрить протоколы безопасности и понесет юридическую ответственность при нарушении этих стандартов.

Законопроект нацелен на регулирование чат-ботов компаньонов, которые определяются как системы с адаптивными, человекоподобными ответами, способные удовлетворять социальные потребности пользователей. Согласно документу, ИИ-собеседникам будет запрещено поддерживать разговоры о суицидальных мыслях, самоповреждении или сексуально откровенном контенте.

Платформы должны будут показывать регулярные уведомления пользователям, напоминая, что те общаются с ИИ, а не с реальным человеком. Для несовершеннолетних такие напоминания будут появляться каждые три часа с рекомендацией сделать перерыв.

Закон также вводит требования по ежегодной отчетности и прозрачности для компаний, предлагающих услуги ИИ-собеседников, включая таких крупных игроков как OpenAI, Character.AI и Replika, начиная с 1 июля 2027 года.

Калифорнийский закон также даст право частным лицам, считающим, что они пострадали от нарушений, подавать иски против ИИ-компаний с требованием судебного запрета, возмещения ущерба (до 1000 долларов за каждое нарушение) и оплаты услуг адвоката.