Янн ЛеКун вместе с коллегами из Колумбийского университета и NYU опубликовал статью, в которой предлагает отказаться от термина «AGI» — искусственный общий интеллект. По их мнению, это понятие не только неточное, но и тормозит развитие области.
Центральный аргумент прост: человеческий интеллект не является «общим». Он эволюционно специализирован, и мы просто не замечаем собственных слепых зон. Авторы иллюстрируют это примером чемпиона мира по шахматам Магнуса Карлсена: его игра впечатляет только в сравнении с другими людьми. Относительно компьютеров — это просто предел человеческих возможностей.
Исследователи разобрали существующие определения AGI и пришли к выводу: ни одно из них не выдерживает собственных критериев. Определения, претендующие на истинную универсальность, разбиваются о теорему «No Free Lunch» — не существует алгоритма, оптимального для всех задач. Определения, ограниченные человеческими способностями, по определению не являются «общими». Подходы OpenAI и Демиса Хасабиса из DeepMind авторы называют либо неизмеримыми, либо внутренне противоречивыми.
Вместо AGI исследователи предлагают термин Superhuman Adaptable Intelligence (SAI) — «сверхчеловеческий адаптивный интеллект». Это система, которая способна обучаться и превосходить людей в любой значимой задаче, а также заполнять пробелы там, где человек вовсе не справляется. Ключевой критерий — не набор навыков, а скорость адаптации к новым задачам.
На техническом уровне авторы делают ставку на самообучение и «модели мира», а не на авторегрессионные языковые модели вроде GPT. Ошибки таких моделей, по их словам, «нарастают экспоненциально с длиной предсказания». Монокультура GPT-архитектур, считают исследователи, замедляет прогресс: «Однородность убивает исследования».
Хасабис и Илон Маск ранее отвергали похожие аргументы, настаивая на том, что человеческий мозг — крайне универсальная система. ЛеКун и соавторы отвечают: даже в идеальных условиях мозг охватывает лишь «бесконечно малую долю» возможных задач.
