Исследователи из Google DeepMind нашли ответ на важный вопрос в области искусственного интеллекта: может ли существовать универсальный ИИ без внутренней модели мира. Ученые доказали математически, что это невозможно.
Согласно новому исследованию, любой ИИ-агент, способный решать сложные задачи в несколько шагов и применять опыт в новых ситуациях, обязательно создает внутреннюю модель окружающей среды. Это происходит даже если разработчики специально не программировали такую модель.
Ученые также установили прямую связь между сложностью задач и точностью внутренней модели. Чем сложнее цели, которые должен достичь ИИ, тем более детальным должен быть его “внутренний симулятор реальности”.
Команда DeepMind разработала способы извлечения этих моделей мира из политики агента - то есть из его стратегии выбора действий. Они создали алгоритмы, которые могут восстановить представление ИИ о среде, просто наблюдая за его поведением.
Это важно для понимания и безопасности систем искусственного интеллекта, так как позволяет увидеть, какие представления о мире формирует система и как они влияют на ее решения.
Исследование имеет несколько практических выводов. Во-первых, споры о подходах с моделями и без моделей теряют смысл, поскольку модели возникают в любом случае. Во-вторых, возможности любого ИИ ограничены точностью его внутренней модели мира. В простых средах модель может быть точной, но в сложных и хаотичных мирах возникают объективные ограничения.
Результаты также объясняют, почему у больших языковых моделей проявляются неожиданные способности. По мнению исследователей, эти системы вынуждены строить скрытые модели мира, чтобы справляться с разными задачами, даже если изначально их этому не учили.
