«Пациент должен знать, когда с ним общается робот», — такова основная идея нового закона. Который вступит в силу с 1 января 2025 года. Теперь все медучреждения, клиники и врачебные практики обязаны предупреждать пациентов, если в их обслуживании участвует искусственный интеллект. Причём неважно, идёт ли речь о письменной или устной коммуникации — везде должен быть чёткий дисклеймер о применении ИИ.
Но законодатели подошли к вопросу с умом. Если ИИ-generated сообщение проверил и одобрил живой врач — можно обойтись без предупреждения. Это важная поправка, которую активно лоббировали медицинские ассоциации штата. Они справедливо опасались, что излишние ограничения помешают врачам использовать ИИ для экономии времени при принятии клинических решений.
Интересно, что закон касается только медицинской информации — если ИИ записывает вас на приём или напоминает об оплате счёта, никаких специальных уведомлений не требуется. Под генеративным ИИ в законе понимаются системы, способные создавать «синтетический контент» — текст, изображения, видео и аудио. Классический пример — большие языковые модели (LLM), которые генерируют оригинальные тексты.
За нарушение закона придётся отвечать по всей строгости — этим займутся Медицинский совет Калифорнии и Совет остеопатической медицины. А медучреждения будут контролироваться в соответствии со статьёй 3 Кодекса здравоохранения и безопасности Калифорнии.
Почему это так важно? В анализе Сената от 19 августа 2024 года отмечается серьёзная проблема: ИИ, обученный на исторически неточных данных, может привести к ухудшению качества лечения определённых групп пациентов. Есть и другие риски — например, «галлюцинации» ИИ, когда система выдаёт правдоподобную, но совершенно выдуманную информацию. Особое беспокойство вызывает и конфиденциальность — данные пациентов, попавшие в обучающую выборку ИИ, практически невозможно оттуда удалить.
Новый закон — часть масштабной кампании Калифорнии по регулированию ИИ. Он полностью соответствует принципам Американской медицинской ассоциации по развитию и внедрению искусственного интеллекта, а также следует «Биллю о правах в сфере ИИ» Белого дома, который провозглашает право граждан знать, когда автоматизированные системы влияют на их жизнь.
Медицинским организациям Калифорнии и тем, кто работает с калифорнийскими пациентами, придётся серьёзно подготовиться к новым требованиям. Особое внимание нужно будет уделить процессу проверки ИИ-контента врачами — чтобы это не превратилось в формальное «проштамповывание» решений искусственного интеллекта. Эксперты уверены: вслед за Калифорнией аналогичные законы могут появиться и в других штатах.
