Microsoft представила Maia 300 — третье поколение собственных ускорителей для искусственного интеллекта. Компания рассчитывает с 2027 года сделать эти чипы основной системой для запуска ИИ в своих продуктах и облачных сервисах.
Maia 300 предназначен прежде всего для инференса — работы уже обученных моделей. Чип рассчитан на современные сценарии: обработку длинного контекста, быстрые диалоги с пользователем и многоэтапные задачи, которые автономно выполняют ИИ-агенты.
По словам Скотта Гатри, руководителя облачного подразделения Microsoft, Maia 300 должен выдавать на 40% больше токенов на каждый мегаватт энергии, чем ведущие системы на базе GPU. Конфигурация из 96 ускорителей обеспечит до семи раз более высокую производительность на уровне серверной стойки по сравнению с Maia 200.
Новый ускоритель построен по техпроцессу TSMC N2P и использует чиплетную архитектуру. Вычислительные блоки, контроллер памяти и ввод-вывод разделены на отдельные компоненты. Благодаря этому Microsoft может выделить больше площади кристалла под вычисления и подобрать подходящую технологию для каждой функции.
Предыдущее поколение, Maia 200, уже обслуживает реальные нагрузки Microsoft Copilot, GitHub Copilot и платформы Microsoft Foundry. Оно также используется для собственных моделей компании.
Мустафа Сулейман, глава подразделения Microsoft AI, объяснил, что компании нужна платформа, которую она сможет контролировать и проектировать вместе со своими моделями. Такой подход должен помочь Microsoft сократить зависимость от ускорителей Nvidia и AMD.
С 2027 года Microsoft собирается развернуть семейство Maia в инфраструктуре мощностью в несколько гигаватт. Maia 300 станет основным ускорителем инференса внутри экосистемы компании.