Верховный комиссар ООН по правам человека Фолькер Тюрк заявил, что искусственный интеллект может угрожать правам человека. Под угрозой оказываются права на конфиденциальность, свободное выражение мнения и занятость. Но при этом технология несет огромные надежды, считает чиновник.

Генеративный ИИ может манипулировать, искажать информацию и отвлекать внимание, если его используют исключительно для политических и экономических выгод. Без адекватных мер защиты и регулирования системы ИИ могут превратиться в современного Франкенштейна, предупредил Тюрк.

Это уже второе заявление ООН о рисках ИИ за ноябрь. В середине месяца замгенсека ООН и спецпосланник по цифровым технологиям Амандип Гилл также выразил озабоченность ситуацией.

Гилл заявил, что частный сектор должен взять на себя большую ответственность. Компании должны быть более подотчетными и прозрачными в том, как они разрабатывают и внедряют эту технологию. Чиновник даже сравнил ИИ с атомной энергетикой. По его словам, эта технология тоже должна быть подконтрольна правительствам.

Два заявления от высокопоставленных чиновников ООН за один месяц показывают растущую обеспокоенность организации развитием ИИ. Раньше ООН высказывалась об этой технологии менее активно.

Призывы к регулированию звучат на фоне быстрого развития генеративного ИИ. За последний год вышло множество новых мощных моделей от разных компаний. Они умеют создавать тексты, изображения, видео и код на уровне, близком к человеческому.

Вопрос регулирования ИИ стоит остро во многих странах. Европейский союз уже принял закон об ИИ, который вступит в силу поэтапно. США пока обсуждают разные варианты подходов. Китай ввел свои правила для генеративного ИИ.

Тюрк указывает на конкретные риски для прав человека. Конфиденциальность может страдать от систем распознавания лиц и анализа данных. Свобода выражения мнения оказывается под угрозой из-за возможности создавать убедительные фейки. Занятость может пострадать от автоматизации многих профессий.

При этом чиновники ООН признают потенциал технологии. ИИ может помочь в медицине, образовании, науке и других областях. Вопрос в том, как направить развитие в правильное русло.

Сравнение с Франкенштейном и атомной энергетикой показывает серьезность опасений. Обе эти аналогии говорят о мощной технологии, которая может выйти из-под контроля или причинить вред при неправильном использовании.

Пока неясно, какие конкретные меры регулирования предложит ООН. Организация может выпустить рекомендации для стран-членов или инициировать международное соглашение по ИИ. Но любые глобальные правила будут сложны в реализации из-за разных подходов разных стран.

Заявления ООН могут повлиять на национальные дискуссии о регулировании ИИ. Они добавляют вес аргументам тех, кто выступает за строгий контроль над технологией.