Международная группа исследователей представила свои рекомендации. По снижению рисков предвзятости в медицинских технологиях, основанных на искусственном интеллекте.

Инициатива получила название STANDING Together (STANdards for data Diversity, INclusivity and Generalisability) и объединила более 350 экспертов из 58 стран мира.

Исследования показали тревожную тенденцию: медицинские ИИ-системы могут работать избирательно, эффективно помогая одним пациентам и игнорируя потребности других. Это не просто вопрос неравенства — речь идет о потенциальном вреде для здоровья целых групп населения.

«Данные подобны зеркалу, отражающему реальность. Когда они искажены, они могут усиливать общественные предрассудки. Но пытаться исправить данные — все равно что протирать зеркало, чтобы удалить пятно на рубашке», — заметила ведущий автор исследования Сяосюань Лю, доцент кафедры ИИ и цифровых медицинских технологий Бирмингемского университета (Великобритания).

Новые рекомендации, опубликованные одновременно в двух престижных научных изданиях — The Lancet Digital Health и New England Journal of Medicine AI, предлагают конкретные шаги по минимизации рисков. Ключевые положения включают:

— Обязательную подготовку понятных описаний наборов данных на простом языке;

— Выявление известных или потенциальных источников предвзятости и ошибок;

— Разработку планов по снижению рисков при внедрении технологий;

— Четкое документирование клинических последствий выявленных проблем;

— Постоянный мониторинг и управление рисками в процессе использования ИИ-систем.

Эксперты подчеркивают: для достижения реальных изменений в обеспечении равенства в здравоохранении необходимо устранять первопричины проблем, а не просто корректировать их последствия в данных.