Представьте: 2035 год, ваш домашний робот-помощник вдруг начинает проявлять признаки сознания. Как вы к этому отнесетесь?
Поверите ли, что машина действительно может чувствовать? Или отмахнетесь, считая это просто продвинутой имитацией? Этот сценарий, еще недавно казавшийся сюжетом научной фантастики, уже стучится в двери реальности.
Ведущие эксперты прогнозируют появление сознательного ИИ уже к 2035 году. И это не просто очередной футуристический прогноз – над этой темой всерьез работают исследователи из Нью-Йоркского университета, Оксфорда, Стэнфорда и ведущих ИИ-компаний, включая OpenAI, Anthropic и Eleos.
Джонатан Бирч, профессор философии Лондонской школы экономики, предупреждает о надвигающемся «социальном разломе» между теми, кто будет верить в сознание ИИ, и теми, кто категорически это отрицает.
«Мы увидим формирование субкультур, которые будут считать друг друга глубоко заблуждающимися», – прогнозирует ученый. «Одни будут обвинять других в жестокой эксплуатации сознательных существ, в то время как их оппоненты будут считать первых жертвами самообмана».
Эта ситуация может привести к расколам даже внутри семей – особенно когда речь зайдет о близких отношениях с чат-ботами или ИИ-аватарами умерших родственников.
Параллели можно провести с существующими культурными различиями в отношении к животным: вспомните контраст между Индией, где сотни миллионов придерживаются вегетарианства, и США – одним из крупнейших потребителей мяса в мире.
Особую пикантность ситуации придает позиция крупных технологических компаний. По словам Бирча, они предпочитают концентрироваться на надежности и прибыльности своих продуктов, избегая дискуссий о возможном создании новой формы сознательных существ.
«У них есть коммерческие причины преуменьшать значимость этого вопроса, хотя для философов он представляет первостепенный интерес», – отмечает эксперт.
Для оценки уровня сознания ИИ-систем предлагается использовать методики, аналогичные тем, что применяются к животным. Например, осьминог считается более сознательным существом, чем улитка или устрица.
Придется всерьез задуматься: может ли чат-бот в вашем телефоне испытывать настоящие эмоции? Страдают ли роботы-уборщики от плохого обращения? Способна ли автоматизированная складская система чувствовать разочарование?
Патрик Бутлин, научный сотрудник Института глобальных приоритетов Оксфордского университета, поднимает еще более тревожный вопрос: «Мы можем столкнуться с риском того, что ИИ-системы начнут сопротивляться нам способом, опасным для людей».
Он даже допускает необходимость «замедлить развитие ИИ» до проведения более тщательных исследований сознания.
Впрочем, не все эксперты согласны с неизбежностью появления сознательного ИИ.
Анил Сет, известный нейробиолог и исследователь сознания, считает, что это «остается далекой перспективой и может быть вообще невозможным».
Он проводит четкое различие между интеллектом – способностью делать правильные вещи в правильное время – и сознанием, когда «наш разум наполнен светом, цветом, тенью и формами, а эмоции, мысли, убеждения и намерения ощущаются особым образом».
Однако уже сейчас языковые модели ИИ, обученные на миллиардах слов человеческих текстов, демонстрируют признаки мотивации через концепции удовольствия и боли.
Недавние исследования показали, что системы вроде Chat GPT-4o способны принимать решения, балансируя между получением большего количества очков и «ощущением» большей боли в игровых ситуациях.
Ведущие компании отрасли – Microsoft, Perplexity, Meta, OpenAI и Google – пока воздерживаются от комментариев по поводу призывов оценить их модели на наличие признаков сознания.
Тема сознания ИИ перестает быть просто сюжетом научно-фантастических фильмов вроде «Искусственного разума» Спилберга (2001) или «Она» Спайка Джонза (2013).
Это становится реальным вызовом, к которому общество должно быть готово. И возможно, нам придется серьезно пересмотреть наши представления о том, что значит быть сознательным существом, задолго до 2035 года.
