Открытое заявление «Pacing the Frontier» подписали 1171 учёный и сотрудник ведущих ИИ-компаний. Они просят правительство США поддержать разработку технологий и правил, которые позволят управлять темпом автоматизированной разработки ИИ.
Среди подписавших — Дарио Амодеи, глава Anthropic; Якуб Пахоцки, главный научный сотрудник OpenAI; Джон Шульман, сооснователь OpenAI, теперь работающий в стартапе Thinking Machines.
Логика заявления такая. Ведущие лаборатории считают, что автоматизация ИИ-исследований уже близко: модели начнут сами проектировать следующие модели. Насколько сильно это ускорит прогресс, никто просчитать не может. И если ускорение окажется резким, на выходе получатся системы, которые люди не смогут ни понять, ни контролировать.
Поэтому подписанты хотят, чтобы США помогли запустить международную работу над техническими и управленческими инструментами торможения. Таких инструментов сейчас просто нет.
«Я подписал заявление, чтобы помочь сформировать общее понимание: при взрывном ускорении автоматизированных исследований механизмы контроля могут понадобиться», — сказал Шульман. Он добавил, что рассчитывает на добровольную работу лабораторий над такими механизмами ещё до того, как в это вмешается государство.
Шэнцзя Чжао, главный научный сотрудник ИИ-подразделения компании Цукерберга, высказался жёстче: ИИ развивается быстрее, чем общество успевает подстроиться, а в передовых лабораториях уже близко к появлению систем, превосходящих лучших людей почти по всем показателям интеллекта.
Не все впечатлились. The tiny corp — компания Джорджа Хотца, которая делает железо и движки для инференса — написала, что подписанты просят притормозить всех остальных, а сами останавливаться не собираются. И что предпочитает тех, кто обещает «бесплатный ИИ для всех».
Заявление никого ни к чему не обязывает. Это просьба к государству построить тормоза, которых пока не существует.
