Индия приказала социальным сетям усилить контроль за дипфейками и ИИ-имитациями. Власти резко сократили время на выполнение приказов об удалении контента. Изменения могут изменить подходы глобальных техкомпаний к модерации на одном из крупнейших и быстрорастущих рынков интернет-услуг.

Поправки опубликованы как изменения к IT Rules 2021 года. Дипфейки попали под формальное регулирование. Обязательны маркировка и отслеживаемость синтетического аудио и видео. Сроки выполнения для платформ сократились. Три часа на официальные приказы об удалении. Два часа на определенные срочные жалобы пользователей.

Важность Индии как цифрового рынка усиливает влияние новых правил. Более миллиарда пользователей интернета и преимущественно молодое население. Южноазиатская страна — критический рынок для платформ вроде YouTube. Меры по соблюдению правил в Индии, вероятно, повлияют на глобальные продукты и практики модерации.

По измененным правилам соцсети, позволяющие загружать аудиовизуальный контент, должны требовать раскрытия информации о синтетической генерации. Развертывать инструменты для проверки этих заявлений. Обеспечивать четкую маркировку дипфейков и встраивание данных об отслеживаемом происхождении.

Определенные категории синтетического контента полностью запрещены. Обманные имитации, интимные изображения без согласия, материалы, связанные с серьезными преступлениями. Несоблюдение правил, особенно в случаях, отмеченных властями или пользователями, может привести к большей юридической ответственности из-за потери защиты безопасной гавани по индийскому законодательству.

Правила сильно опираются на автоматизированные системы для выполнения обязательств. Платформы должны развернуть технические инструменты для проверки заявлений пользователей, идентификации и маркировки дипфейков, предотвращения создания или распространения запрещенного синтетического контента.

«Измененные IT Rules — более калиброванный подход к регулированию ИИ-дипфейков. Значительно сжатые сроки рассмотрения жалоб — например, окна удаления в два-три часа — существенно увеличат бремя соблюдения», — сказал Рохит Кумар, основатель консалтинговой фирмы The Quantum Hub из Нью-Дели.

Апраджита Рана, партнер ведущей индийской юридической фирмы AZB & Partners, отметила, что правила теперь фокусируются на ИИ-генерируемом аудиовизуальном контенте, а не на всей онлайн-информации. Исключения для рутинного, косметического или эффективного использования ИИ.

Группа защиты цифровых прав Internet Freedom Foundation предупредила о рисках ускорения цензуры. Резкое сжатие сроков удаления оставляет мало возможностей для человеческой проверки.