Помните первые впечатления от искусственного интеллекта? Бестелесная голова в компьютерной игре Neuromancer, зловещий HAL 9000 из «Космической одиссеи» или очаровательная Саманта из фильма «Она». Что ж, времена меняются — и сегодня ИИ уже не просто образ из научной фантастики, а технология, которая проникает в каждый аспект нашей жизни.

Дэвид Пог, корреспондент CBS Sunday Morning, который освещает технологии уже десятилетия, признается: за всю свою карьеру только три события заставили его буквально раскрыть рот от изумления. Первые два — появление интернета и смартфонов — теперь кажутся «мелкой картошкой» по сравнению с революцией ИИ.

«Искусственный интеллект изменит абсолютно всё, — утверждает Пог. — Не останется ни одной сферы жизни, ни одной профессии, которых бы не коснулись эти изменения».

Давайте разберемся без лишней паники. ИИ — это набор технологий, позволяющий компьютерам выполнять сложные задачи. Нет, это не восстание роботов. Как говорит Пог: «Мы боимся этого просто потому, что это ново и мы не до конца понимаем суть».

Сейчас большинство ИИ-систем, с которыми мы сталкиваемся — генеративные. Они создают контент: от искусственных рэперов до картин в стиле Ренуара с собаками, играющими на банджо (да, такое теперь возможно через DALL-E). Системы вроде ChatGPT уже способны написать школьное эссе по «Убить пересмешника» — причем с шутками и даже специально добавленными опечатками, если вы того пожелаете.

Современные системы ИИ, такие как DALL·E 2 и GPT-4, используют сложные технологии глубокого обучения (deep learning) и крупные языковые модели (large-language models). Их работа часто напоминает черный ящик — даже создателям бывает сложно интерпретировать, почему система выдает именно такой результат, а не другой.

Эти системы уже активно используются в повседневной жизни: геймеры создают с их помощью персонажей для Dungeons & Dragons, а юристы составляют правовые документы. Однако когда процессы непрозрачны и опираются на большие наборы данных, основанные на культурных ценностях, в системы могут проникать несправедливые предубеждения и другие социальные проблемы.

Культура и технологии

Интересный факт: ИИ-системы — это не просто объективные машины. Они глубоко укоренены в человеческой культуре, отражая наши ценности, нормы и поведенческие паттерны.

Показательный пример: профессор Университета Карнеги-Меллона Роджер Данненберг создал ИИ для совместного музицирования, основанный на западной музыкальной теории. А композитор Джордж Льюис разработал систему Voyager, вдохновленную джазовой импровизацией и традициями африканской диаспоры. Результаты разительно отличаются: система Данненберга послушно следует за исполнителем, а Voyager создает неожиданные музыкальные диалоги, балансируя между авангардным джазом Сан Ра и звучанием яванского гамелана.

Современные ИИ-системы находят применение в самых разных областях. Показательный пример — проект The Enemy, созданный военным фотожурналистом Каримом Бен Хелифой. Система позволяет пользователям услышать точки зрения комбатантов с обеих сторон конфликтов в Демократической Республике Конго, Сальвадоре и Газе, при этом адаптируя опыт под язык тела пользователя, который служит индикатором потенциальных предубеждений и внимательности.

MIT Center for Advanced Virtuality разработал систему Breakbeat Narratives — проект, который обучает истории хип-хопа, адаптируясь под музыкальные вкусы пользователя. Если вам нравится музыка в стиле рутс и вы интересуетесь женщинами в хип-хопе, система создаст короткий документальный фильм о женском самовыражении в хип-хопе, используя саундтрек из хип-хоп композиций, семплирующих кантри и блюграсс.

Особенно ярко культурные различия проявляются в финансовой сфере. Например, в кредитном скоринге понятие благонадежности может сильно различаться в разных обществах. В некоторых культурах кредитоспособность связана с общественным доверием и социальным положением, в других — исключительно с индивидуальным финансовым поведением.

Чтобы учесть эти различия, разработчики ИИ используют локализованные наборы данных, отражающие финансовое поведение разных демографических групп. Для выявления случаев непреднамеренной дискриминации применяются специальные инструменты аудита и метрики справедливости.

«В научном сообществе люди теряют голову от восторга, — делится Пог. — Это прорыв, который случается раз в поколение. Это революция, которая спасет миллиарды жизней».

Регулирование и контроль

Хотя законопроект в Коннектикуте в этом году застопорился, Конгресс США и законодатели многих других штатов продолжают исследовать вопрос регулирования ИИ. Для обеспечения этичного развития ИИ внедряются различные технические и организационные инновации. Например, используется «обучение с подкреплением на основе обратной связи от человека» (reinforcement learning from human feedback), а организации следуют стандартам вроде ISO/IEC 42001, определяющим критерии для создания систем управления ИИ.

«Будет регулирование, — прогнозирует Пог. — Будут общественные волнения и судебные прецеденты, которые возьмут эти технологии под контроль».

Ключевую роль в обеспечении этичного развития ИИ играют регулярные аудиты — как независимые, так и внутренние. Они оценивают не только техническую производительность, но и более широкое влияние ИИ на права человека и социальную справедливость. Проверки прозрачности помогают убедиться, что пользователи могут понять и доверять решениям ИИ-систем, а аудиты справедливости выявляют и устраняют предвзятость.

«Правда в том, что любой эксперт, который утверждает, что знает, куда всё это приведет, просто водит вас за нос», — честно признается Пог. Но он советует не паниковать: «Каждая новая технология пугала людей, и сегодня мы посмеиваемся над этими страхами. Наши внуки будут так же посмеиваться над нашим страхом перед ИИ».

Как отмечает Бенджамин Ларсен, руководитель направления искусственного интеллекта и машинного обучения Всемирного экономического форума: «ИИ может быть мощным инструментом для продвижения общественного благополучия, но только если мы останемся бдительными и будем согласовывать его с нашими общими ценностями и принципами».

«Если кто-то в любой индустрии хочет быть умным, — советует Пог, — начинайте работать с этими технологиями прямо сейчас. Разберитесь, что они могут и чего не могут».

Важнейший вопрос сегодня — согласование ИИ с человеческими ценностями. Это означает создание систем, которые действуют в соответствии с этическими принципами, учитывая культурные различия и особенности разных регионов. Например, в то время как одни страны ставят во главу угла индивидуальную приватность, другие могут отдавать приоритет коллективной безопасности.