С 2 августа в Евросоюзе вступают в силу правила маркировки: сгенерированные нейросетями изображения, видео, аудио и текст, которые выглядят как настоящие, нужно помечать.
Требование двойное. Метка должна быть видна человеку — и в файл должен быть зашит цифровой водяной знак, по которому происхождение контента определит машина.
Чат-боты обязаны сообщать, что они боты. Тексты на общественно значимые темы нужно помечать, если их никто не редактировал вручную.
Правила касаются новых систем на рынке ЕС с 2 августа. У тех, что уже работают, есть ещё четыре месяца. За нарушение — до 15 млн евро или 3% мирового оборота компании.
Исключения: личный контент пользователей, а также «очевидно художественные», сатирические и вымышленные работы. Еврокомиссия выпустила набор чёрно-белых значков, но компании могут нарисовать свои.
Повод — дипфейки последних лет. Поддельная аудиозапись, на которой Михал Шимечка, лидер словацкой оппозиции, будто бы договаривается с журналистом о фальсификации выборов. Смонтированное видео с танцующим в клубе Макроном. Фейковые кадры, где тогдашний лидер британских лейбористов Кир Стармер кричит на сотрудников партии.
«Это вопрос не только защиты потребителя, но и защиты демократии», — сказал Сергей Лагодинский, депутат Европарламента от «Зелёных», один из переговорщиков по AI Act.
В IT-ассоциации CCIA Europe считают, что июльские разъяснения Еврокомиссии растянули определение дипфейка далеко за рамки закона 2024 года. «Метка задумывалась, чтобы отмечать обманчивый контент. Теперь пейзаж в рекламе — то же самое, что смонтированная политическая речь», — говорит Бонифас де Шамприс, который отвечает в ассоциации за политику в области ИИ. Он сравнивает это с баннерами про cookie: когда метки везде, их перестают замечать.
Крупные платформы к этому готовились. TikTok требует от авторов помечать реалистичные генерации и говорит, что помог разметить больше 3 млрд единиц контента. Google с 2023 года встраивает невидимый водяной знак SynthID — по её данным, уже в 100 млрд изображений и 60 тысяч лет аудио. Добровольный кодекс прозрачности подписали больше 180 организаций, включая Google и компанию Цукерберга.
По прогнозу де Шамприса, заметнее всего перемены будут не в соцсетях, где маркировка и так есть, а в рекламе, кино и издательском деле.
