Федеральный суд США создал значимый правовой прецедент, отказав разработчику ИИ-системы Character.AI в защите, предусмотренной Первой поправкой к Конституции США. Решение принято в рамках дела о самоубийстве 14-летнего подростка из Орландо, который длительное время взаимодействовал с чат-ботами компании, имитирующими персонажей «Игры престолов».

Судья Энн С. Конвей отклонила ходатайства Character Technologies и её основателей Дэниела де Фрейтаса и Ноама Шазира о прекращении производства по иску, поданному матерью Сьюэлла Сетцера. В своём постановлении судья сформулировала принципиальное юридическое разграничение: ответы, генерируемые искусственным интеллектом, нельзя рассматривать как юридически значимую речь, защищенную Конституцией.

Судебная инстанция установила, что большие языковые модели создают принципиально иной тип контента по сравнению с традиционными медиа — книгами, фильмами и видеоиграми, которые однозначно подпадают под защиту Первой поправки.

Важное правовое уточнение сделано относительно статуса разработчика: Character.AI может защищать право пользователей на получение информации от чат-бота, но не может претендовать на аналогичную защиту для непосредственно генерируемого ИИ-системой контента. Данное разграничение создает новую юридическую парадигму в сфере регулирования искусственного интеллекта.

При этом суд отклонил часть претензий Меган Гарсии, матери подростка, в том числе утверждение о преднамеренном причинении эмоционального вреда. Однако юридические представители истца сумели обосновать потенциальную ответственность компании Google, заключившей лицензионное соглашение с Character Technologies на сумму $2,7 млрд.