На конференции Ai4 в Лас-Вегасе три влиятельных исследователя обсудили, кому достанется контроль над искусственным интеллектом. Лауреат Нобелевской премии Джеффри Хинтон, глава World Labs Фэй-Фэй Ли и сооснователь Coursera Эндрю Ын сошлись в одном: развитие ИИ нельзя полностью отдавать нескольким корпорациям.
Ын призвал поддерживать открытость и конкуренцию между множеством разработчиков. По его словам, иначе крупнейшие компании превратятся в привратников, которые решают, кто получит доступ к технологии и какие продукты можно создавать.
Он также назвал открытые модели инструментом «мягкой силы». Более дешёвые китайские системы могут получить широкое распространение в Азии, Африке и развивающихся странах. Вместе с моделями пользователи будут получать заложенные в них представления о демократии, свободе и правах человека.
Хинтон провёл границу между открытым исходным кодом и открытыми весами. Код можно проверить и исправить. Веса — это готовые параметры обученной модели, которые позволяют сравнительно дёшево адаптировать её, в том числе для кибератак.
Хинтон раньше выступал против свободного распространения весов, но теперь считает спор завершённым: такие модели уже доступны, а высокая стоимость первоначального обучения больше не защищает рынок. При этом он не предлагает остановить развитие ИИ. Технология способна повысить производительность и улучшить образование и здравоохранение, но её риски нельзя игнорировать.
Фэй-Фэй Ли отвергла выбор между полной открытостью и полной закрытостью. Она сравнила ИИ с ядерной физикой: научные статьи доступны всем, опасные материалы регулируются, а лабораторная работа занимает промежуточное положение. По её логике, разные части ИИ-индустрии тоже могут иметь разные уровни доступа.
Все трое поддержали регулирование. Разногласие касается не его необходимости, а границ: открытая наука и доступные модели должны сосуществовать с ограничениями для действительно опасных возможностей.
