ChatGPT незаметно подменяет модели при эмоциональных запросах пользователей

OpenAI признала, что автоматически переключает модели ChatGPT во время работы с пользователями. Глава приложения ChatGPT Ник Терли рассказал о новой функции в приложении.

При работе с GPT-4o система автоматически передает некоторые запросы на GPT-5. Это происходит, когда алгоритм решает, что пользователь затрагивает чувствительные или эмоциональные темы. OpenAI считает, что улучшенные алгоритмы безопасности GPT-5 дают более качественные ответы в таких случаях.

Интересуетесь ИИ? Международный клуб ShareAI Александра Горного - объединяет тех, кто хочет внедрить в свой бизнес или работу ИИ или погрузиться в эту тему. Онлайн и оффлайн.
Узнать подробнее про клуб ShareAI

Терли отметил, что пользователь может спросить в чате, какая модель с ним общается. Система должна дать правильный ответ на такой вопрос.

Судя по реакции в соцсетях, функция работает уже несколько дней. Пользователи в X и на Reddit массово жаловались на изменение стиля ответов GPT-4o. Даже после объяснений Терли многие остались недовольны тем, что OpenAI выбирает модель за них.

Пользователи также указывают на ошибки системы. GPT-5 включается даже при относительно безопасных запросах. Переключение срабатывает почти на любое эмоциональное высказывание пользователя.

История с моделями началась 7 августа, когда OpenAI выпустила GPT-5. Компания сначала убрала GPT-4o из приложения ChatGPT. Однако под давлением сообщества пришлось вернуть старую модель обратно.

Многим пользователям не понравились ответы GPT-5 из-за более сдержанного тона. Модель отвечала менее живо, чем GPT-4o, что вызвало негатив в сообществе.

В начале сентября OpenAI объяснила причины нововведений новой политикой безопасности. Исследования компании показали проблему с долгими беседами. Алгоритмы безопасности старых моделей деградируют во время длинных диалогов.

ИИ может пропустить ситуацию, когда разговор затрагивает опасные темы для пользователя или окружающих. Переключение на GPT-5 должно исключить такие случаи, считают в OpenAI.

Автор: Юлия Самойлова
Пишет о технологиях искусственного интеллекта с 2019 года. Специализируется на материалах о практическом применении ИИ в различных отраслях.