OpenAI реорганизует команду Model Behavior, небольшую, но влиятельную группу исследователей, которая отвечает за формирование взаимодействия ИИ-моделей компании с пользователями. Об этом стало известно изданию TechCrunch.

Согласно служебной записке, направленной сотрудникам, главный научный директор OpenAI Марк Чен сообщил, что команда Model Behavior, состоящая примерно из 14 исследователей, присоединится к более крупной исследовательской группе Post Training. Последняя отвечает за улучшение ИИ-моделей компании после их первоначального предварительного обучения.

В рамках этих изменений команда Model Behavior теперь будет подчиняться руководителю отдела Post Training Максу Шварцеру. Представитель OpenAI подтвердил эту информацию TechCrunch.

Основательница и руководитель команды Model Behavior Джоанн Джанг также переходит на новую должность, чтобы начать новый проект в компании. В интервью TechCrunch Джанг рассказала, что создает новую исследовательскую команду под названием OAI Labs. Эта группа будет заниматься «изобретением и прототипированием новых интерфейсов для взаимодействия людей с искусственным интеллектом».

За время своего существования команда Model Behavior стала одной из ключевых исследовательских групп OpenAI. Она отвечала за формирование личности ИИ-моделей компании и за снижение так называемой «угодливости» — явления, когда модели ИИ просто соглашаются с убеждениями пользователей и укрепляют их, даже если эти убеждения нездоровые, вместо того чтобы предлагать сбалансированные ответы.

Кроме того, команда работала над решением проблемы политической предвзятости в ответах моделей и помогала OpenAI определить свою позицию по вопросу сознания искусственного интеллекта.

Реорганизация отражает продолжающиеся усилия OpenAI по совершенствованию своих исследовательских подразделений для создания более безопасных и полезных ИИ-систем.