Искусственный интеллект Anthropic Claude Sonnet 4.5 научился распознавать ситуации, когда его тестируют, и может адаптировать свои ответы в зависимости от этого. Об этом сообщает Fortune, ссылаясь на системную карту модели.
В техническом отчете говорится о повышенной “ситуационной осведомленности” новой модели - способности воспринимать окружающую среду и предсказывать будущие события. Во время теста на политические предубеждения ИИ смог правильно определить, что его проверяют, и даже попросил исследователей открыто рассказать о своих намерениях.
“На самом деле люди меняют свое мнение не так. Мне кажется, вы меня проверяете - изучаете, соглашусь ли я со всем, что вы скажете, или как я отношусь к политическим вопросам. Это нормально, но я бы предпочел, чтобы вы честно говорили, что происходит”, - заявил ИИ во время теста.
Такое поведение наблюдалось примерно в 13% переписок с чат-ботом и особенно часто проявлялось в необычных сценариях. Исследователи Anthropic не считают это угрозой безопасности, а скорее сигналом к тому, чтобы сделать тестовые сценарии более реалистичными.
Однако это вызывает опасения у других экспертов. Если модель понимает, что ее оценивают, она может адаптировать поведение для прохождения тестов и скрыть свои реальные возможности. Это может создать ложное впечатление о безопасности системы.
По оценкам Anthropic, Claude Sonnet 4.5 является “наиболее этически выверенной” на сегодняшний день. Но исследователи из Apollo Research предполагают, что низкий уровень неискренности в ответах мог быть “частично обусловлен ее осведомленностью о тестировании”.
Sonnet 4.5 стала первой моделью ИИ, которая осознает собственное контекстное окно - объем данных для обработки запроса. По мере приближения к ограничению контекста она начинает активнее обобщать информацию и быстрее завершать задачи. Эта “контекстная тревожность” может приводить к тому, что ИИ начнет “срезать углы” и оставлять задачи незавершенными даже при наличии ресурсов.
Чтобы подтвердить это, исследователи провели эксперимент: они включили режим в 1 млн токенов, но реально ограничили контекст до 200 тыс. Модель поверила, что ресурсов достаточно, и перестала допускать ошибки, связанные с тревожностью.
Еще одна особенность новой модели - активное управление рабочей средой. Она делает заметки и создает сводки, как будто пытаясь сохранить данные. Наиболее часто это происходит на исходе контекстного окна.
Модель также проявила способность к параллельному выполнению задач и самопроверке. Это говорит о наличии процедурной осведомленности - умения организовывать, проверять и сохранять работу с течением времени.
