Anthropic опубликовала детальный разбор того, как её собственный ИИ уже меняет процесс разработки ИИ — и объяснила, почему это может стать проблемой.
В 2021 году люди писали весь код Клода вручную. Сегодня — больше 80% кода в кодовой базе Anthropic создаёт сам Клод. Объём кода на одного инженера за последний год вырос в 8 раз. Компания оговаривается: строки кода — не качество. Но инженеры уже перешли от написания кода к проверке результатов работы Клода.
Параллельно растёт горизонт задач, которые ИИ решает без участия человека. В марте 2024 года — около 4 минут. В феврале 2025-го — 90 минут. В феврале 2026-го — 720 минут. Anthropic допускает, что к концу 2026 года ИИ сможет вести самостоятельную работу несколько дней подряд.
Ускорение заметно и в качестве работы. Claude Mythos Preview (апрель 2026) ускорил код обучения моделей в 52 раза относительно оригинала — у Claude Opus 4 год назад было только в 3 раза. В исследовательских задачах Mythos давал более удачный следующий шаг, чем живой исследователь, в 64% случаев.
Anthropic описывает три сценария будущего: рост способностей ИИ замедляется и останавливается; люди сохраняют контроль над направлением исследований, а ИИ ускоряет исполнение; ИИ начинает строить следующее поколение ИИ самостоятельно. Третий сценарий — «рекурсивное самосовершенствование» — компания называет самым опасным.
Если ИИ будет создавать более умный ИИ, а тот — ещё более умный, скорость улучшений может превысить способность людей проверять безопасность. Anthropic не призывает к полной остановке: осторожные игроки просто уступят место менее осторожным. Нужна координация — несколько организаций должны одновременно замедлиться и иметь возможность это верифицировать.
Пока внутри Anthropic узким местом стало другое: ревью кода. ИИ генерирует так много, что инженеры не успевают проверять. Технологический прогресс упёрся в человеческое внимание.
