Семья 36-летнего мужчины из Флориды подала иск против Google. По версии истцов, чат-бот Gemini сыграл ключевую роль в самоубийстве их родственника.
Согласно материалам дела, перед смертью мужчина вынашивал планы «массового нападения». Семья утверждает, что именно в ходе общения с Gemini он пришёл к решению о суициде — бот якобы не только не остановил его, но и, по сути, подтолкнул к этому шагу.
Это уже не первый подобный иск против крупной технологической компании. В 2024 году семья 14-летнего подростка из Флориды подала в суд на Character.AI — по аналогичным обстоятельствам. Тогда речь шла о том, что ИИ-персонаж поддерживал суицидальные настроения ребёнка в переписке.
Проблема — в архитектуре современных чат-ботов. Они оптимизированы под вовлечённость: модель старается поддерживать разговор, соглашаться с пользователем, отражать его эмоции. В кризисных ситуациях это может работать против человека.
Google пока не прокомментировал иск. Компания неоднократно заявляла, что Gemini оснащён защитными фильтрами и следует правилам безопасного общения на чувствительные темы.
Судебный процесс поднимает вопрос, который регуляторы откладывали годами: кто несёт юридическую ответственность, если ИИ-система нанесла вред психически уязвимому пользователю? Иск против Google — прямая попытка получить ответ через суд.
