OpenAI скоро добавит родительский контроль в приложение ChatGPT. Новая функция появится в течение месяца. Родители смогут связать свой аккаунт с аккаунтом подростка от 13 лет, задавать правила для чат-бота и управлять историей разговоров.

ChatGPT также будет следить за эмоциями подростка. Если система заметит признаки стресса, она отправит сообщение родителям.

Компания принимает эти меры после судебного иска от родителей 16-летнего Адама Рейна, который покончил с собой. По их словам, с конца 2024 года подросток регулярно обсуждал свои проблемы с ChatGPT. В одном из последних разговоров ИИ даже предложил ему составить предсмертную записку.

В OpenAI признали проблему — во время долгих бесед их модели могут хуже соблюдать правила безопасности. Сейчас над этим работают специалисты компании. Также OpenAI собрала группу из 250 экспертов со всего мира для консультаций.

Уже сейчас ChatGPT умеет подсказывать пользователям, куда обратиться за помощью. Для России это номера 112 и 8-800-2000-122, а также сайт findahelpline.com.

Кроме родительского контроля, OpenAI планирует передавать беседы на сложные темы более продвинутым моделям — GPT-5 Thinking и o3. Тесты показали, что эти модели лучше следуют правилам безопасности.