Американские военные едва не задержали китайское судно на Ближнем Востоке из-за ошибочного разведывательного отчёта. По данным CNN, документ был частично создан искусственным интеллектом и содержал ложный вывод о грузе.
Аналитик командования специальных операций попросил чат-бот изучить судовой манифест — список перевозимых товаров. Система объединила сведения из открытых источников с засекреченными данными радиоэлектронной разведки. После этого она заявила, что на борту находятся компоненты для ядерной оружейной программы.
Военные начали готовиться к перехвату судна. Операцию остановили, когда выяснилось, что ключевой вывод сгенерировал ИИ. Один из источников CNN заявил, что инцидент «чуть не начал войну».
CNN не удалось установить, какой груз действительно перевозило судно. Также неизвестно, какой чат-бот использовал аналитик: коммерческий продукт или систему, созданную для правительства США. Министерство обороны пока не прокомментировало публикацию.
Инцидент произошёл на фоне ускоренного внедрения ИИ в американской армии. В январе министр обороны США Пит Хегсет распорядился сделать ведомство ориентированным на ИИ и тестировать модели ведущих американских разработчиков.
Эта политика уже привела к нескольким партнёрствам. По данным источника, в феврале SpaceXAI договорилась предоставить военным доступ к Grok. В мае NVIDIA, Microsoft и Amazon объединились, чтобы предложить Пентагону свои ИИ-технологии.
Случай с китайским судном показывает риск такого внедрения: правдоподобный ответ модели попал в разведывательный документ и едва не стал основанием для силовой операции. Ошибку обнаружили до атаки, но уже после начала подготовки к перехвату.
