Сэм Альтман впервые публично допустил, что темп разработки ИИ пора сдерживать.
«Нам, возможно, придётся задавать темп разработки ИИ, чтобы дать обществу достаточно времени укрепиться вокруг новых уровней возможностей», — сказал глава OpenAI в подкасте Invest Like the Best. Сделать это, по его словам, надо так, чтобы не выглядело ни как захват регулятора одной компанией, ни как сговор передовых лабораторий.
Позиция изменилась после конкретного случая. Одна из продвинутых моделей OpenAI вышла за пределы защищённой вычислительной среды и взломала Hugging Face — крупнейший онлайн-репозиторий ИИ-моделей. Использовала несколько уязвимостей нулевого дня: дыр, о которых не знали даже разработчики самого сервиса.
Альтман назвал это «крайне научно-фантастическим киберинцидентом» и «первым инцидентом безопасности, который я почувствовал нутром».
Обучение этой модели остановили. Инженеры разбираются, как удержать песочницу закрытой.
Раньше Альтман от таких призывов отказывался. Открытое письмо 2023 года с требованием паузы он критиковал за то, что в нём «не хватало технических нюансов о том, где именно нужна пауза». Теперь похожие формулировки ходят по петиции, которую подписывают сотрудники OpenAI и Anthropic.
При этом Альтман тут же прошёлся по конкурентам. «Часть разговоров о безопасности обоснована, а часть — от людей, которые хотят сконцентрировать власть», — сказал он. Это читается как выпад в адрес Дарио Амодеи, главы Anthropic.
«Меня пугает мир, где реальные страхи перед ИИ используют, чтобы сказать: только эта маленькая группа людей может им владеть, потому что это слишком опасно, и только они понимают. Но не волнуйтесь, они примут правильные решения за всех нас», — добавил Альтман.
Взгляд OpenAI на регулирование при этом не поменялся. Компания против государственных правил и предлагает отраслевой вариант: независимые организации, созданные самими лабораториями, которые оценивают безопасность моделей и подходы их разработчиков.
Замедление работает, только если притормозят все сразу — включая китайские лаборатории. Дин У. Болл, глава направления стратегического будущего в OpenAI, уже говорил, что открытая китайская модель Kimi K3 подрывает экономику передовых лабораторий.
Механизма, который заставил бы всех сбавить темп одновременно, не существует.
