Мировой лидер в области безопасности здравоохранения, выпустил ежегодный отчёт. Некоммерческая организация ECRI впервые поставила искусственный интеллект на первое место среди технологических рисков в медицине. Да-да, тот самый ИИ, который уже успел захватить все сферы здравоохранения — от медицинской визуализации до планирования приёмов.
“Не дайте себя отвлечь обещаниями ИИ от его способности навредить пациентам и врачам”, — предупреждает Маркус Шабакер, генеральный директор ECRI. “Поиск баланса между инновациями в ИИ и безопасностью станет одной из самых сложных и определяющих задач современной медицины”.
Что же не так с ИИ в медицине? Оказывается, эти системы могут выдавать ложные результаты или “галлюцинации”, а качество их работы сильно варьируется для разных групп пациентов. Особенно тревожно, что ИИ-модели способны увековечить предвзятость, заложенную в них при обучении, что создаёт серьёзные риски для исторически маргинализированных сообществ.
В топ-10 технологических угроз также вошли:
-
Проблемы с поддержкой медтехники для домашнего использования;
-
Уязвимости поставщиков технологий и киберугрозы;
-
Некачественные или поддельные медицинские устройства;
-
Риск возгорания при использовании дополнительного кислорода;
-
Опасно низкие пределы тревог на анестезиологических аппаратах;
-
Проблемы с временной приостановкой назначения лекарств;
-
Плохое управление инфузионными линиями;
-
Вредные медицинские клейкие материалы;
-
Неполные расследования инцидентов с инфузионными системами.
Особое внимание ECRI уделяет небольшим и сельским медучреждениям, которые могут остаться на обочине ИИ-революции из-за нехватки персонала и бюджета для проверки новых технологий. А ведь именно постоянный мониторинг эффективности ИИ критически важен для безопасности пациентов.
Показательным примером киберугроз стала атака на Change Healthcare в феврале 2024 года, подразделение UnitedHealth Group, которая нарушила обработку медицинских страховых требований для значительной части отрасли.
