Компания OpenAI объявила о создании совета из восьми экспертов, которые будут консультировать ее по вопросам влияния искусственного интеллекта на психическое здоровье, эмоции и мотивацию пользователей. Объявление было сделано во вторник.

Новая группа получила название «Экспертный совет по благополучию и ИИ». Она будет сначала заниматься чат-ботом ChatGPT и приложением для создания коротких видео Sora. Через регулярные встречи и проверки совет поможет компании определить, как должно выглядеть здоровое взаимодействие с искусственным интеллектом.

В последние месяцы OpenAI активно расширяет свои меры безопасности. Это связано с растущим вниманием к тому, как компания защищает пользователей, особенно детей и подростков.

В сентябре Федеральная торговая комиссия начала проверку нескольких технологических компаний, включая OpenAI. Проверка касается того, как чат-боты вроде ChatGPT могут негативно влиять на детей и подростков. Кроме того, OpenAI стала участником судебного иска о неправомерной смерти. Семья обвиняет ChatGPT в самоубийстве своего сына-подростка.

Компания сейчас разрабатывает систему определения возраста. Она будет автоматически применять настройки для пользователей младше 18 лет. В конце прошлого месяца OpenAI также запустила ряд родительских контролей. Теперь родители могут получать уведомления, если их ребенок показывает признаки сильного стресса.

OpenAI сообщила, что уже неформально консультировалась с членами своего нового совета при разработке родительских контролей. При создании совета компания привлекла дополнительных экспертов в области психиатрии, психологии и взаимодействия человека с компьютером. Совет официально начал работу на прошлой неделе с очной встречи.

Помимо экспертного совета, OpenAI также работает с исследователями и специалистами по психическому здоровью из Global Physician Network. Они помогут тестировать ChatGPT и формировать правила компании.

В состав экспертного совета вошли: профессор Оксфордского университета Эндрю Пшибыльски, научный сотрудник Бостонской детской больницы Дэвид Бикхэм, директор Центра поведенческих технологий Северо-Западного университета Дэвид Мор, главный научный сотрудник некоммерческой организации Everyone.AI Матильда Чериоли, профессор Технологического института Джорджии Мунмун Де Чоудхури, педиатр Роберт Росс, клинический доцент Стэнфордского университета Сара Йохансен и профессор психологии Хантер-колледжа Трейси Деннис-Тивари.