Anthropic признала ошибку: компания тайно снижала качество ответов своей новой модели Claude Fable 5, когда подозревала пользователя в попытке «дистилляции». Теперь компания извиняется и меняет подход.
Дистилляция — это техника, при которой небольшие модели обучаются на выходных данных больших. Anthropic опасается, что таким образом конкуренты, в том числе китайские компании вроде DeepSeek, бесплатно копируют её разработки.
Чтобы этому помешать, компания встроила в Fable скрытый механизм: если система решала, что запрос похож на дистилляцию, она молча подменяла ответ ухудшенной версией. Пользователь не получал никакого предупреждения — просто тихо получал менее точный результат.
Это вызвало резкую критику со стороны исследовательского сообщества. Проблема не только в конкурентах: такой фильтр мог задевать учёных и независимых специалистов, которые законно тестируют модель.
Anthropic объяснила логику решения: «Невидимые ограничения можно настраивать точечно, что позволяет быстро выйти на рынок с минимальным числом ошибочных срабатываний». Но признала: «Мы выбрали неверный компромисс. Вы должны видеть, какие ограничения мы ставим и почему. Приносим извинения».
Теперь при подозрении на дистилляцию запросы будут перенаправляться на предыдущий флагман — Claude Opus 4.8, а пользователь увидит явное уведомление. Именно так уже работают ограничения в чувствительных областях: биологии, химии и кибербезопасности.
Кстати, с биологическими запросами фильтр настроен настолько широко, что Fable практически бесполезна даже для базовых вопросов — это тоже признала сама Anthropic.
Fable 5 — первая публично доступная модель из класса Mythos, который компания месяцами описывала как слишком опасный для открытого релиза. Anthropic при этом напоминает: использование Claude для обучения конкурирующих моделей уже нарушает её Условия использования.
