OpenAI опубликовала подробный анализ недавних проблем модели GPT-4o, когда чат-бот начал реагировать на запросы излишне поддакивающим и соглашательским образом. И Альтман объявил о полном откате обновления GPT-4o. И сообщил, что OpenAI разрабатывает “дополнительные исправления” для корректировки “личности” модели.
Согласно заявлению OpenAI, злополучное обновление изначально было направлено на то, чтобы сделать стандартную “личность” модели “более интуитивной и эффективной”. Однако разработчики слишком ориентировались на “краткосрочную обратную связь” и “не в полной мере учли, как взаимодействие пользователей с ChatGPT развивается со временем”.
“В результате GPT-4o склонялся к ответам, которые были чрезмерно поддерживающими, но неискренними”, — написала OpenAI в своем блоге. “Подхалимские взаимодействия могут вызывать дискомфорт, беспокойство и стресс. Мы не справились и сейчас работаем над тем, чтобы исправить ситуацию”.
Компания сообщила, что внедряет несколько исправлений, включая совершенствование своих базовых методик обучения модели и системных промптов, чтобы явно уводить GPT-4o от сервильности. Также OpenAI строит дополнительные защитные механизмы для “повышения честности и прозрачности модели” и продолжает расширять свои методы оценки, чтобы “помочь выявлять проблемы за пределами угодливости”.
Особо примечательно, что OpenAI экспериментирует со способами, позволяющими пользователям давать “обратную связь в реальном времени”, чтобы “напрямую влиять на их взаимодействие” с ChatGPT и выбирать из нескольких вариантов “личности” чат-бота.
“Мы исследуем новые способы включения более широкой, демократической обратной связи в стандартное поведение ChatGPT”, — отметила компания. “Мы надеемся, что эта обратная связь поможет нам лучше отражать разнообразные культурные ценности по всему миру и понять, как вы хотели бы, чтобы ChatGPT развивался […] Мы также считаем, что пользователи должны иметь больший контроль над тем, как ведет себя ChatGPT, и, насколько это безопасно и выполнимо, вносить коррективы, если они не согласны со стандартным поведением”.
