Мировой лидер в области безопасности здравоохранения, выпустил ежегодный отчёт. Некоммерческая организация ECRI впервые поставила искусственный интеллект на первое место среди технологических рисков в медицине. Да-да, тот самый ИИ, который уже успел захватить все сферы здравоохранения — от медицинской визуализации до планирования приёмов.

«Не дайте себя отвлечь обещаниями ИИ от его способности навредить пациентам и врачам», — предупреждает Маркус Шабакер, генеральный директор ECRI. «Поиск баланса между инновациями в ИИ и безопасностью станет одной из самых сложных и определяющих задач современной медицины».

Что же не так с ИИ в медицине? Оказывается, эти системы могут выдавать ложные результаты или «галлюцинации», а качество их работы сильно варьируется для разных групп пациентов. Особенно тревожно, что ИИ-модели способны увековечить предвзятость, заложенную в них при обучении, что создаёт серьёзные риски для исторически маргинализированных сообществ.

В топ-10 технологических угроз также вошли:

— Проблемы с поддержкой медтехники для домашнего использования;

— Уязвимости поставщиков технологий и киберугрозы;

— Некачественные или поддельные медицинские устройства;

— Риск возгорания при использовании дополнительного кислорода;

— Опасно низкие пределы тревог на анестезиологических аппаратах;

— Проблемы с временной приостановкой назначения лекарств;

— Плохое управление инфузионными линиями;

— Вредные медицинские клейкие материалы;

— Неполные расследования инцидентов с инфузионными системами.

Особое внимание ECRI уделяет небольшим и сельским медучреждениям, которые могут остаться на обочине ИИ-революции из-за нехватки персонала и бюджета для проверки новых технологий. А ведь именно постоянный мониторинг эффективности ИИ критически важен для безопасности пациентов.

Показательным примером киберугроз стала атака на Change Healthcare в феврале 2024 года, подразделение UnitedHealth Group, которая нарушила обработку медицинских страховых требований для значительной части отрасли.