YouTube объявил о расширении пилотной программы, направленной на выявление и контроль контента, созданного ИИ с использованием образов известных креаторов, артистов и других влиятельных личностей.

Ситуация с ИИ-подделками настолько обострилась, что YouTube открыто поддержал законопроект NO FAKES ACT, разработанный сенаторами Крисом Кунсом и Маршей Блэкберн. Этот документ нацелен на борьбу с ИИ-копиями, имитирующими внешность и голос реальных людей для создания вредоносного контента.

В разработке технологии YouTube объединил усилия с Ассоциацией звукозаписывающей индустрии Америки (RIAA), Ассоциацией кинематографистов (MPA) и другими крупными игроками индустрии. Система, созданная в партнерстве с Creative Artists Agency (CAA) в декабре 2024 года, работает по принципу существующей Content ID, автоматически выявляя контент с искусственно сгенерированными лицами и голосами.

Впервые YouTube раскрыл список первых участников программы — это звезды платформы, включая MrBeast, Mark Rober, Doctor Mike, Flow Podcast, Marques Brownlee и Estude Matemática. В ходе тестового периода команда YouTube будет работать с этими креаторами над масштабированием технологии и улучшением системы контроля.

«Мы понимаем потенциал ИИ в революционизации творческого самовыражения, но осознаем и риски,» — заявили в YouTube. «Платформы обязаны упреждающе решать эти проблемы. NO FAKES Act предлагает разумный путь вперед, позволяя балансировать между защитой и инновациями через прямое взаимодействие с пользователями.»

В течение следующего года программа будет постепенно расширяться, охватывая все больше создателей контента. Однако точные сроки полномасштабного запуска системы обнаружения поддельных образов пока не называются.