Дарио Амодеи, гендиректор Anthropic, признал, что не знает, использовалась ли его нейросеть Claude при планировании или проведении ракетного удара по начальной школе в Иране, в котором погибли около 120 детей. Об этом сообщает Bloomberg.
По сути, руководитель одной из ведущих ИИ-компаний мира говорит прямо: у него нет механизма отследить, как его продукт применяется в военных операциях.
Anthropic активно продаёт инструменты на основе Claude американским военным и спецслужбам. При этом компания публично позиционирует себя как одну из самых ответственных в сфере ИИ-безопасности — именно на этом строится её бренд и значительная часть привлечённых инвестиций.
Когда ИИ-модель попадает в руки военных подрядчиков, разработчик теряет контроль и видимость над её использованием. Юридические и операционные барьеры делают аудит фактически невозможным — даже для самой компании.
Аналогичное незнание — норма для CEO крупных ИИ-лабораторий, которые всё активнее работают с оборонным сектором. Публичных механизмов подотчётности в этой цепочке не существует.
Трагедия в Иране вновь поставила вопрос, который отрасль предпочитает не обсуждать: кто несёт ответственность, если ИИ-инструмент применяется в операции, приведшей к массовым жертвам среди мирного населения? Пока ответа нет ни у регуляторов, ни у самих компаний.
