Компания Originality.ai, специализирующаяся на выявлении контента, созданного искусственным интеллектом, обнаружила массовое присутствие ИИ-генерации в сегменте литературы о лекарственных растениях на платформе Amazon. Согласно исследованию, результаты которого приводит The Guardian, 82% книг в этой категории с высокой вероятностью написаны искусственным интеллектом.

Аналитики проверили 558 изданий о лечебных травах и препаратах из них, и выявили характерные признаки ИИ-генерации в подавляющем большинстве текстов. Особенно показательным примером исследователи называют «Справочник по естественному исцелению» (Natural Healing Handbook), ставший бестселлером в категориях «Уход за кожей», «Ароматерапия» и «Фитотерапия».

Книга якобы написана «австралийской травницей» Луной Филби и даже получила положительную рецензию от основательницы издания Wildcraft Journal Сары Уинн. Однако проверка Originality.ai показала, что ни автора, ни рецензента, ни упомянутого журнала не существует в реальности. Инструменты компании определили, что текст книги сгенерирован искусственным интеллектом со «100% уверенностью».

«Это разоблачение огромного количества немаркированного, непроверенного, неконтролируемого ИИ-контента, который заполонил платформу», — прокомментировал ситуацию автор исследования Майкл Фрейман.

Проблема искусственно сгенерированных книг на Amazon привлекала внимание и ранее. В 2023 году пользователи обнаружили несколько руководств по сбору грибов, созданных, вероятно, с помощью чат-ботов. Эти издания содержали неподтвержденные и потенциально опасные советы по идентификации ядовитых и съедобных грибов.

Генеральный директор Ассоциации издателей Дэн Конвей призвал Amazon ввести обязательную маркировку для ИИ-контента: «Любая книга, полностью написанная с помощью ИИ, должна быть помечена как таковая, а некачественный ИИ-контент должен быть немедленно удален».

Эксперты отрасли отмечают, что распространение немаркированного ИИ-контента в категориях, связанных со здоровьем, представляет особую опасность. Непроверенные рекомендации по использованию лекарственных растений могут нанести серьезный вред здоровью читателей, полагающихся на информацию из подобных источников.

Amazon пока не представила официальной позиции относительно результатов исследования и призывов к маркировке контента, сгенерированного искусственным интеллектом. Однако растущее давление со стороны профессиональных ассоциаций и общественности может заставить платформу пересмотреть свою политику в отношении публикации ИИ-контента, особенно в чувствительных тематических категориях.