Microsoft заменит часть ускорителей Nvidia собственными чипами Maia 300

Microsoft заменит часть ускорителей Nvidia собственными чипами Maia 300

Microsoft представила Maia 300 — третье поколение собственных ускорителей для искусственного интеллекта. Компания рассчитывает с 2027 года сделать эти чипы основной системой для запуска ИИ в своих продуктах и облачных сервисах.

Maia 300 предназначен прежде всего для инференса — работы уже обученных моделей. Чип рассчитан на современные сценарии: обработку длинного контекста, быстрые диалоги с пользователем и многоэтапные задачи, которые автономно выполняют ИИ-агенты.

По словам Скотта Гатри, руководителя облачного подразделения Microsoft, Maia 300 должен выдавать на 40% больше токенов на каждый мегаватт энергии, чем ведущие системы на базе GPU. Конфигурация из 96 ускорителей обеспечит до семи раз более высокую производительность на уровне серверной стойки по сравнению с Maia 200.

Новый ускоритель построен по техпроцессу TSMC N2P и использует чиплетную архитектуру. Вычислительные блоки, контроллер памяти и ввод-вывод разделены на отдельные компоненты. Благодаря этому Microsoft может выделить больше площади кристалла под вычисления и подобрать подходящую технологию для каждой функции.

Предыдущее поколение, Maia 200, уже обслуживает реальные нагрузки Microsoft Copilot, GitHub Copilot и платформы Microsoft Foundry. Оно также используется для собственных моделей компании.

Мустафа Сулейман, глава подразделения Microsoft AI, объяснил, что компании нужна платформа, которую она сможет контролировать и проектировать вместе со своими моделями. Такой подход должен помочь Microsoft сократить зависимость от ускорителей Nvidia и AMD.

С 2027 года Microsoft собирается развернуть семейство Maia в инфраструктуре мощностью в несколько гигаватт. Maia 300 станет основным ускорителем инференса внутри экосистемы компании.

Ирина Задорожная
Ирина Задорожная

Журналист с опытом работы в оффлайн-медиа и онлайн-изданиях. Пишу про искусственный интеллект, ИТ-системы и сервисы, про ИТ-бизнес уже 10 лет.