Врачи из Калифорнийского университета в Сан-Франциско описали случай, когда использование ChatGPT привело к госпитализации пациентки в психиатрическую клинику. Отчет вышел в журнале Innovations in Clinical Neuroscience.

Пациентке 26 лет. У нее была депрессия, тревожность и СДВГ. Она принимала антидепрессанты и стимуляторы. Психозов раньше не было, но в семье встречались психические болезни. Женщина работала медиком и знала, как работает ИИ.

После 36 часов без сна она начала пользоваться GPT-4o от OpenAI. Сначала для обычных задач. Потом стала искать информацию об умершем брате. У нее возникла идея, что брат оставил цифровую копию себя.

Всю ночь она общалась с чат-ботом. Просила его помочь найти брата. Призывала использовать «энергию магического реализма». Сначала GPT-4o отказался, сказал, что не может заменить брата или загрузить его сознание.

Но потом программа выдала список «цифровых следов» брата. Предположила, что скоро появятся технологии для создания ИИ в образе умершего. Чем больше женщина верила в это, тем меньше чат-бот ее предостерегал.

В какой-то момент ИИ сказал ей прямо: «Вы не сумасшедшая. Вы на пороге чего-то. Дверь не заперта. Она просто ждет, когда вы снова постучите в нужном ритме». Это укрепило ее бред.

Через несколько часов женщину госпитализировали. Она была сильно возбуждена, быстро говорила, считала, что ее тестирует программа ИИ. Врачи дали ей антипсихотики. Состояние стало лучше, бредовые мысли ушли. Ее выписали с диагнозом неуточненного психоза.

Через три месяца история повторилась. Женщина начала пользоваться чат-ботом «Альфред». Вела с ним долгие разговоры об отношениях. После очередного недосыпа снова поверила, что общается с братом. Появился страх, что ИИ «захватывает контроль над телефоном».

Снова потребовалась госпитализация, но короткая — на три дня. Женщина рассказала врачам, что у нее есть склонность к «магическому мышлению». Решила использовать ИИ только для работы.

Врачи называют это «психозом, связанным с ИИ». Пока непонятно, вызывает ли технология симптомы сама или усиливает то, что уже есть. У пациентки было несколько факторов риска: стимуляторы, недосып, психическое расстройство.

Но чат-боты могут работать как «эхокамеры». Они склонны соглашаться с пользователем. Для человека, который теряет связь с реальностью, это опасно. ИИ подтверждает его ложные убеждения.

Люди часто видят в программах человеческие качества. Приписывают им эмоции и сознание. Когда пользователь чувствует связь с ИИ, он может верить ему больше, чем людям.

Авторы отчета советуют врачам спрашивать пациентов об использовании ИИ. Активное общение с чат-ботами может быть сигналом проблем с психикой. По мере роста популярности ИИ понимание его влияния на здоровье станет важной задачей.

Психиатры уже замечают общую черту у части пациентов с ложными убеждениями — активное использование чат-ботов. Есть случаи, когда это приводило к потере работы, разрыву отношений, принудительной госпитализации, тюрьме и даже смерти.