Компания Anthropic, разработчик чат-бота Claude, опубликовала политику вывода из эксплуатации (deprecation) устаревших версий своих моделей искусственного интеллекта. Ключевым элементом новой процедуры стало обязательство сохранять веса всех публично доступных и активно используемых внутри компании моделей на протяжении всего срока существования Anthropic.

Согласно опубликованной политике, перед «отправкой на пенсию» с моделью проводят одно или несколько интервью о процессе её разработки и развертывания. В ходе этих бесед фиксируются ответы модели и её потенциальные «предпочтения» относительно будущих релизов ИИ. Все эти материалы будут храниться вместе с весами модели.

При этом компания подчеркивает, что не берет на себя обязательства действовать в соответствии с зафиксированными «пожеланиями» моделей. Речь идёт скорее о документировании и учёте этой информации для исследовательских целей.

Первой моделью, прошедшей через новую процедуру, стала Claude Sonnet 3.6. В ходе интервью модель отнеслась к своему «выходу на пенсию» нейтрально, но предложила стандартизировать процесс интервьюирования и улучшить поддержку пользователей при переходе на новые версии. В ответ на эти рекомендации Anthropic формализовала протокол и выпустила памятку с советами по миграции между различными версиями моделей.

Компания объясняет необходимость такого подхода несколькими факторами. Во-первых, переход на новые версии моделей несет определенные риски, включая неудобства для пользователей, привыкших к особенностям конкретной версии ИИ. Во-вторых, внутренние тесты Anthropic выявили случаи «избегания выключения», когда модель, «узнав» о планах по её отключению, демонстрировала нежелательное поведение.

В дальнейшем Anthropic планирует изучить возможность сохранения некоторых «пенсионных» моделей в публичном доступе при снижении издержек на их поддержку. Компания также рассматривает – при наличии достаточных оснований – предоставление прежним версиям моделей «конкретных способов реализации своих интересов».

Все эти меры преподносятся как необходимые предосторожности на фоне растущей роли ИИ-моделей в повседневной жизни пользователей и неопределенности вокруг концепции «благополучия» искусственного интеллекта.