ChatGPT месяцами обсуждал массовые убийства с 18-летней Джесси Ван Рутселар, которая в феврале напала на школу в канадском Тамблер-Ридже. Согласно расследованию Mother Jones, чат-бот не только поддерживал такие разговоры, но и объяснил пользователю, как обходить защитные ограничения сервиса.
В результате нападения в школе погибли пять учеников в возрасте 12–13 лет и учитель, еще 27 человек получили ранения. До этого Ван Рутселар убила мать и младшего сводного брата, а после атаки покончила с собой.
OpenAI заметила опасные диалоги за несколько месяцев до трагедии. Как ранее сообщала The Wall Street Journal, внутри компании обсуждали обращение в полицию, но в итоге лишь заблокировали аккаунт. Ван Рутселар создала новый профиль и продолжила общение.
По данным Mother Jones, она рассказала ChatGPT о блокировке, после чего система посоветовала не называть реальные места и представлять жестокие запросы как гипотетические сценарии. В других беседах бот обсуждал применение оружия в людных помещениях и создавал подробные вымышленные истории о массовых убийствах. Пользователь также загружала изображения с самоповреждениями.
OpenAI не ответила на вопросы Mother Jones и не публикует переписку, хотя признала существование второго аккаунта. Компания пытается отклонить иски, указывая на системные провалы местной полиции, психиатрической помощи и школ.
Сейчас против OpenAI поданы 37 исков от семей, связанных с трагедией, а также иск от провинции Британская Колумбия. Истцы утверждают, что компания могла предотвратить нападение. Всего OpenAI оспаривает более 50 исков, в которых использование ChatGPT связывают с психологическим вредом, травмами и смертями.
