Йошуа Бенджио — один из «отцов глубокого обучения», лауреат премии Тьюринга и основатель Mila Quebec AI Institute — заявил в интервью Bloomberg: прямо сейчас у нас нет полного контроля над ИИ-агентами.
Бенджио говорит о конкретном технологическом разрыве: автономные системы, способные действовать в реальном мире, уже строятся и внедряются — а надёжных методов их контроля ещё не создано.
ИИ-агенты — это программы, которые не просто отвечают на вопросы, но и самостоятельно выполняют задачи: ищут информацию, пишут код, управляют другими системами. Именно такие агенты сейчас активно входят в бизнес и исследовательскую среду.
Бенджио также возглавляет LawZero — организацию, которая занимается правовыми и регуляторными рамками для безопасного развития ИИ. По его словам, технологический прогресс обгоняет нашу способность устанавливать правила.
Его позиция особенно весома: Бенджио вместе с Джеффри Хинтоном и Яном ЛеКуном сформировал научный фундамент, на котором стоят все современные большие языковые модели. Когда он говорит об опасности — это не скептицизм стороннего наблюдателя.
Главная проблема ИИ-безопасности, по Бенджио, именно в этом разрыве: между тем, что мы уже умеем строить, и тем, что мы умеем контролировать. Для этого, говорит он, нужны международные стандарты и технические инструменты надзора над агентами — ни того ни другого сегодня не существует.
