Поддерживаемая Джеком Ма компания Ant Group разработала технологии для обучения ИИ-моделей с использованием китайских полупроводников. Ant использовала отечественные чипы, в том числе от аффилированной Alibaba Group и Huawei, для обучения моделей с применением так называемого подхода машинного обучения Mixture of Experts (MoE).

Компания получила результаты, сопоставимые с теми, которые дают чипы Nvidia H800, и это даже позволило сократить затраты на 20%, утверждают источники, пожелавшие остаться анонимными. H800, хотя и не самый продвинутый, является мощным процессором, который в настоящее время запрещен США для поставок в Китай.

Базирующаяся в Ханчжоу Ant по-прежнему использует Nvidia для разработки ИИ, но теперь в основном полагается на альтернативные решения, включая продукцию Advanced Micro Devices Inc. и китайские чипы для своих последних моделей, сообщил один из источников.

В то время как компании вкладывают значительные средства в ИИ, модели MoE стали популярным вариантом, получив признание благодаря их использованию Google и стартапом DeepSeek из Ханчжоу, среди прочих. Эта методика разделяет задачи на меньшие наборы данных, во многом как команда специалистов, каждый из которых фокусируется на сегменте работы, делая процесс более эффективным. Ant отказалась комментировать ситуацию в ответе по электронной почте.

Однако обучение MoE-моделей обычно опирается на высокопроизводительные чипы, такие как графические процессоры, которые продаёт Nvidia. Стоимость до сих пор была непомерно высокой для многих небольших фирм и ограничивала более широкое внедрение. Ant работала над способами более эффективного обучения LLM и устранения этого ограничения. Название её исследования ясно отражает эту цель, поскольку компания ставит задачу масштабировать модель «без премиальных GPU».