OpenAI запускает систему предсказания возраста в потребительских тарифах ChatGPT. Цель — определить, принадлежит ли аккаунт пользователю младше 18 лет, и автоматически применить соответствующие меры защиты. Компания рассказала детали в блоге.

Система анализирует поведенческие сигналы и данные аккаунта. Модель смотрит на несколько факторов — как долго существует аккаунт, в какое время суток пользователь активен, паттерны использования с течением времени и заявленный возраст.

Когда модель оценивает, что аккаунт может принадлежать человеку младше 18, ChatGPT автоматически применяет дополнительные ограничения. Они снижают риск столкнуться с чувствительным контентом.

Список ограничений обширный. Блокируется графическое насилие и жестокий контент. Вирусные челленджи, которые могут побудить к рискованному поведению. Сексуальные, романтические или жестокие ролевые игры. Изображения самоповреждения. Контент, продвигающий экстремальные стандарты красоты, нездоровые диеты или бодишейминг.

Подход основан на мнениях экспертов и академических исследованиях развития детей. Он учитывает известные различия подростков в восприятии риска, контроле импульсов, влиянии сверстников и эмоциональной регуляции.

Если пользователя по ошибке отнесли к категории младше 18, есть быстрый способ исправить это. Можно подтвердить возраст селфи через сервис верификации Persona. Доступ восстанавливается сразу. Проверить статус аккаунта и начать процесс можно в настройках.

Подростки, которые сами указали возраст младше 18 при регистрации, уже автоматически получают дополнительные меры защиты. Новая система расширяет это на тех, кто не указал реальный возраст.

Родители могут дополнительно настроить опыт подростка через родительский контроль. Доступны тихие часы, когда ChatGPT нельзя использовать. Управление функциями вроде памяти или обучения модели. Уведомления при обнаружении признаков острого стресса.

OpenAI учится на первых результатах внедрения. Компания будет отслеживать точность предсказаний и улучшать модель со временем. Когда уверенности в возрасте нет или информации недостаточно, система по умолчанию применяет более безопасный режим.

В Евросоюзе система запустится в ближайшие недели с учетом региональных требований. OpenAI продолжает работать с экспертами — Американской психологической ассоциацией, ConnectSafely и Global Physicians Network.

Компания подчеркивает, что это важная веха, но работа по безопасности подростков продолжается. OpenAI обещает делиться обновлениями о прогрессе и полученном опыте.