Пользователи обнаружили странную особенность первой “рассуждающей” ИИ-модели OpenAI o1. Она периодически начинает “думать” на китайском, персидском и других языках — даже когда вопрос задан на английском.
Например, решая простую задачу вроде подсчета букв ‘R’ в слове ‘strawberry’, o1 может внезапно переключиться на другой язык в процессе рассуждений, хотя финальный ответ всегда дается на языке вопроса. “o1 внезапно начала думать по-китайски посреди разговора”, — отмечают пользователи Reddit и X.
OpenAI пока не прокомментировала это поведение, но эксперты выдвигают несколько теорий.
Клеман Деланг, CEO Hugging Face, и Тед Сяо из Google DeepMind предполагают, что причина в использовании китайских сервисов разметки данных при обучении модели. По словам Сяо, многие компании, включая OpenAI и Anthropic, прибегают к услугам китайских специалистов для разметки сложных задач по науке, математике и программированию.
Другие эксперты считают эту теорию неполной, так как модель может переключаться не только на китайский, но и на хинди, тайский и другие языки.
Мэтью Гуздиал из Университета Альберты отмечает: “Модель не знает, что такое язык или что языки различаются. Для нее все это просто текст”.
Тьеджен Ван из Hugging Face предлагает интересное объяснение: “Я предпочитаю заниматься математикой на китайском, потому что каждая цифра состоит из одного слога, что делает вычисления более четкими. Но когда речь идет о неосознанных предубеждениях, я автоматически перехожу на английский, потому что именно на нем я впервые изучал эти концепции”.
Возможно, модель демонстрирует похожие языковые предпочтения, основанные на паттернах в обучающих данных.
