В научном мире разгорается тревожная дискуссия. Группа исследователей из престижного Карлова университета в Праге и Telic Research описали феномен «постепенного лишения власти». Процесса, при котором даже небольшие улучшения в возможностях ИИ могут существенно подорвать влияние человека на ключевые системы: экономику, культуру и государственное управление.

Особую тревогу вызывает тот факт, что системы ИИ, заменяя человеческий труд и когнитивные способности, ослабляют как прямые механизмы контроля – выборы и потребительские решения, так и неявные рычаги влияния в социальных системах. «Когда эти системы меньше зависят от человеческого вклада, люди теряют все способы влияния на них», – предупреждают исследователи.

Ситуация осложняется тем, что ИИ-системы могут агрессивно оптимизировать результаты, противоречащие человеческим предпочтениям. При этом негативные эффекты усиливают друг друга: экономическая власть влияет на культурные нарративы, а культурные сдвиги меняют экономическое и политическое поведение.

Для противодействия этой угрозе ученые предложили комплекс мер: от разработки показателей ослабления человеческого влияния до усиления демократических процессов и введения регулирования ИИ. Особое внимание уделяется созданию «делегатов ИИ», которые будут представлять интересы человека в новой технологической реальности.

Эксперты подчеркивают: без принятия срочных мер человечество рискует необратимо потерять контроль над жизненно важными системами, что может привести к экзистенциальной катастрофе из-за постоянного ослабления позиций людей в ключевых сферах жизни.