Доклад под названием «Стратегия суперинтеллекта», прямо противоречит недавним заявлениям министра энергетики США Криса Райта. О том, что Америка находится «в начале нового Манхэттенского проекта» по ИИ. Бывший гендиректор Google Эрик Шмидт, генеральный директор Scale AI Александр Ванг и директор Центра безопасности искусственного интеллекта Дэн Хендрикс выступили против создания «Манхэттенского проекта» для разработки искусственного интеллекта со «сверхчеловеческими» способностями.

Ситуация настолько взрывоопасна, что авторы прямо предупреждают: агрессивные попытки США получить исключительный контроль над системами суперинтеллекта могут спровоцировать жёсткий ответ со стороны Китая, включая масштабные кибератаки, которые дестабилизируют международные отношения. «То, что начинается как стремление к созданию супероружия и глобальному контролю, рискует спровоцировать враждебные контрмеры и эскалацию напряженности», — предупреждают три влиятельные фигуры американской индустрии ИИ.

Открыто противостоя комиссии Конгресса США, которая всего несколько месяцев назад предложила организовать масштабные «усилия в стиле Манхэттенского проекта». Шмидт, Ванг и Хендрикс утверждают, что США находятся в своеобразном противостоянии по AGI, напоминающем взаимное гарантированное уничтожение времён холодной войны. Подобно тому, как мировые державы не стремятся к монополии на ядерное оружие — что может спровоцировать превентивный удар со стороны противника — авторы предупреждают, что США следует проявлять крайнюю осторожность в гонке за доминированием в сфере чрезвычайно мощных систем ИИ.

Хотя сравнение систем ИИ с ядерным оружием может показаться крайностью, Пентагон уже сейчас открыто признаёт, что ИИ помогает ускорить военную «цепочку уничтожения». А авторы доклада вводят новую угрожающую концепцию — «Взаимно гарантированный сбой ИИ» (MAIM), согласно которой правительства могут превентивно атаковать и отключать угрожающие проекты ИИ противника, вместо того чтобы ждать, пока оппоненты используют AGI в качестве оружия.