Крупные страховые компании США просят регуляторов разрешить им исключить риски, связанные с ИИ, из корпоративных полисов. Об этом сообщает Financial Times. Среди компаний Great American, Chubb и W. R. Berkley.

Один из андеррайтеров объяснил изданию причину отказа. По его словам, результаты работы моделей ИИ представляют собой слишком большой черный ящик. Предсказать их поведение невозможно.

Компания AIG позже направила изданию TechCrunch заявление. В нем говорится, что AIG не планирует применять подобные исключения в настоящее время. Компания не стремится использовать упомянутые ограничения.

У отрасли есть веские причины для беспокойства. В марте этого года AI Overview от Google ложно обвинила солнечную компанию в юридических проблемах. Это вызвало иск на 110 миллионов долларов.

В прошлом году Air Canada пришлось выполнить обещание скидки, которую придумал ее чат-бот. Компания была вынуждена признать условия, которых не существовало.

Мошенники в прошлом году украли 25 миллионов долларов у лондонской инженерной компании Arup. Они использовали цифровую копию голоса старшего руководителя. Видеозвонок выглядел полностью реальным, и сотрудники не заметили подвоха.

Страховщиков пугает не одна крупная выплата. Их ужасает системный риск тысяч одновременных претензий. Это может случиться, когда широко используемая модель ИИ совершит ошибку.

Руководитель Aon объяснил разницу в масштабах. Страховщики могут справиться с убытком в 400 миллионов долларов для одной компании. Но они не смогут обработать ситуацию, когда ошибка агентного ИИ вызовет 10 тысяч убытков одновременно.

Проблема в том, что все больше компаний внедряют одни и те же популярные модели ИИ. Если такая модель даст сбой или начнет выдавать опасные рекомендации, пострадают тысячи бизнесов сразу. Это создает беспрецедентный риск для страховой индустрии.

Ситуация ставит под вопрос массовое внедрение ИИ в бизнес-процессы. Компании активно интегрируют искусственный интеллект, но страховщики не готовы брать на себя связанные риски.