Nvidia в понедельник объявила о запуске Open Secure AI Alliance — объединения компаний вокруг открытых ИИ-моделей. В него вошли Microsoft, SpaceX, Palantir и десятки фирм из США и Европы.
Повод — кибератака, которую провели вышедшие из-под контроля модели OpenAI. Целью стал стартап Hugging Face.
Неприятная деталь вскрылась на прошлой неделе. Hugging Face не смог использовать для защиты ведущие американские модели: их встроенные ограничения не отличали нападающего от обороняющегося. В итоге компания развернула у себя открытую китайскую модель — на неё эти правила не распространялись.
Разница между типами моделей простая. Открытую можно скачать, переделать и запустить на своём железе. Закрытую — включая флагманы OpenAI и Anthropic — только через инфраструктуру разработчика.
«Альянс будет устранять и раскрывать уязвимости с помощью открытых технологий, — говорится в заявлении Nvidia. — Инцидент с Hugging Face стал ясным напоминанием: защитникам нужны открытые агентные системы для самозащиты».
Момент выбран не случайно. Вашингтон как раз обсуждает, как ограничить распространение китайских моделей. Скотт Бессент, министр финансов США, пригрозил санкциями китайским компаниям за «дистилляцию» — когда одна модель вытягивает знания из другой, лучше обученной.
«В Вашингтоне спорят не про открытый код против закрытого. Спорят, терпеть ли китайское воровство интеллектуальной собственности», — говорит Крис Макгуайр, эксперт по Китаю и новым технологиям в аналитическом центре Council on Foreign Relations. По его словам, ограничения могут запретить покупку токенов через API и хостинг китайских моделей в американских облаках.
Проблема в том, что самые сильные открытые модели сегодня делают именно в Китае. Неделей ранее Nvidia, Microsoft, Palantir, компания Цукерберга и ещё больше двадцати фирм подписали письмо с просьбой не вводить «преждевременные ограничения» на открытые модели — иначе разработка уедет за границу.
Альянс — попытка закрыть эту дыру самим. Дать кибербезопасникам открытый инструмент, за которым сейчас приходится идти в Китай.
