Яндекс и ИСП РАН разрабатывают маркировку ИИ-контента

В России разрабатывается комплексная технология маркировки и идентификации контента, сгенерированного ИИ-системами. Согласно данным «Ведомостей», проект реализуется в рамках стратегического партнерства компании «Яндекс» и Института системного программирования Российской академии наук (ИСП РАН).

Технологическая архитектура предлагаемого решения основана на концепции микроскопических артефакт-маркеров, внедряемых в структуру мультимедийных объектов. Принципиальное отличие от традиционных «водяных знаков» заключается в незаметности маркеров для человеческого восприятия при их одновременной детектируемости алгоритмическими системами анализа.

Интересуетесь ИИ? Международный клуб ShareAI Александра Горного - объединяет тех, кто хочет внедрить в свой бизнес или работу ИИ или погрузиться в эту тему. Онлайн и оффлайн.
Узнать подробнее про клуб ShareAI

Данный подход исключает возможность простого удаления маркировки путем обрезки или закрашивания, что существенно повышает надежность атрибуции происхождения контента.

Для практической имплементации системы верификации «Яндекс» параллельно разрабатывает сервис распознавания маркировки, предназначенный для широкого использования.

Данный инструментарий позволит конечным пользователям и профессиональным участникам медиарынка проводить эффективную проверку происхождения цифровых объектов. Такой подход создает предпосылки для формирования единого отраслевого стандарта маркировки генеративного контента, что является необходимым условием эффективности системы в гетерогенной технологической среде.

На начальном этапе технология ориентирована на маркировку изображений, генерируемых нейросетью «Шедеврум», однако архитектурный дизайн предусматривает масштабирование на различные типы синтетического контента, включая аудио и видеоматериалы.

Автор: Юлия Самойлова
Пишет о технологиях искусственного интеллекта с 2019 года. Специализируется на материалах о практическом применении ИИ в различных отраслях.