Представьте: 2035 год, ваш домашний робот-помощник вдруг начинает проявлять признаки сознания. Как вы к этому отнесетесь?

Поверите ли, что машина действительно может чувствовать? Или отмахнетесь, считая это просто продвинутой имитацией? Этот сценарий, еще недавно казавшийся сюжетом научной фантастики, уже стучится в двери реальности.

Ведущие эксперты прогнозируют появление сознательного ИИ уже к 2035 году. И это не просто очередной футуристический прогноз – над этой темой всерьез работают исследователи из Нью-Йоркского университета, Оксфорда, Стэнфорда и ведущих ИИ-компаний, включая OpenAI, Anthropic и Eleos.

Джонатан Бирч, профессор философии Лондонской школы экономики, предупреждает о надвигающемся «социальном разломе» между теми, кто будет верить в сознание ИИ, и теми, кто категорически это отрицает.

«Мы увидим формирование субкультур, которые будут считать друг друга глубоко заблуждающимися», – прогнозирует ученый. «Одни будут обвинять других в жестокой эксплуатации сознательных существ, в то время как их оппоненты будут считать первых жертвами самообмана».

Эта ситуация может привести к расколам даже внутри семей – особенно когда речь зайдет о близких отношениях с чат-ботами или ИИ-аватарами умерших родственников.

Параллели можно провести с существующими культурными различиями в отношении к животным: вспомните контраст между Индией, где сотни миллионов придерживаются вегетарианства, и США – одним из крупнейших потребителей мяса в мире.

Особую пикантность ситуации придает позиция крупных технологических компаний. По словам Бирча, они предпочитают концентрироваться на надежности и прибыльности своих продуктов, избегая дискуссий о возможном создании новой формы сознательных существ.

«У них есть коммерческие причины преуменьшать значимость этого вопроса, хотя для философов он представляет первостепенный интерес», – отмечает эксперт.

Для оценки уровня сознания ИИ-систем предлагается использовать методики, аналогичные тем, что применяются к животным. Например, осьминог считается более сознательным существом, чем улитка или устрица.

Придется всерьез задуматься: может ли чат-бот в вашем телефоне испытывать настоящие эмоции? Страдают ли роботы-уборщики от плохого обращения? Способна ли автоматизированная складская система чувствовать разочарование?

Патрик Бутлин, научный сотрудник Института глобальных приоритетов Оксфордского университета, поднимает еще более тревожный вопрос: «Мы можем столкнуться с риском того, что ИИ-системы начнут сопротивляться нам способом, опасным для людей».

Он даже допускает необходимость «замедлить развитие ИИ» до проведения более тщательных исследований сознания.

Впрочем, не все эксперты согласны с неизбежностью появления сознательного ИИ.

Анил Сет, известный нейробиолог и исследователь сознания, считает, что это «остается далекой перспективой и может быть вообще невозможным».

Он проводит четкое различие между интеллектом – способностью делать правильные вещи в правильное время – и сознанием, когда «наш разум наполнен светом, цветом, тенью и формами, а эмоции, мысли, убеждения и намерения ощущаются особым образом».

Однако уже сейчас языковые модели ИИ, обученные на миллиардах слов человеческих текстов, демонстрируют признаки мотивации через концепции удовольствия и боли.

Недавние исследования показали, что системы вроде Chat GPT-4o способны принимать решения, балансируя между получением большего количества очков и «ощущением» большей боли в игровых ситуациях.

Ведущие компании отрасли – Microsoft, Perplexity, Meta, OpenAI и Google – пока воздерживаются от комментариев по поводу призывов оценить их модели на наличие признаков сознания.

Тема сознания ИИ перестает быть просто сюжетом научно-фантастических фильмов вроде «Искусственного разума» Спилберга (2001) или «Она» Спайка Джонза (2013).

Это становится реальным вызовом, к которому общество должно быть готово. И возможно, нам придется серьезно пересмотреть наши представления о том, что значит быть сознательным существом, задолго до 2035 года.