Nvidia продемонстрировала следующее поколение своих серверных GPU — Rubin Ultra. Главная особенность: каждый пакет несёт 1 ТБ памяти HBM4E. Это первый ИИ-ускоритель в индустрии с таким объёмом памяти на борту.
Внутри каждого пакета — четыре вычислительных чиплета. Конкретная архитектура пока неизвестна: корпус закрыт теплораспределителем, и даже неясно, прошёл ли чип стадию tapeout. Судя по размерам — упаковка компактная, — возможно, используется стековая конструкция.
Вместе с Rubin Ultra Nvidia представила новый формат стойки — Kyber. В одной стойке помещаются 144 GPU-пакета против 72 в нынешней NVL72 на базе Rubin. Число вычислительных тайлов на пакет тоже удваивается — итого производительность системы вырастает минимум в четыре раза по сравнению с актуальным Oberon NVL72.
Лотки в Kyber расположены вертикально, а не горизонтально, как сейчас. Жидкостное охлаждение — по умолчанию. Кабелей в лотке почти нет: это упрощает сборку, но одновременно означает, что партнёры Nvidia превращаются из производителей серверов в сборщиков стоек из готовых блоков.
Коммутатор NVLink обновляется до 7-го поколения. Скорость остаётся прежней — 3600 ГБ/с — но теперь в одну фабрику можно объединить больше GPU. Для внешних коммуникаций между стойками Nvidia вводит новый Ethernet-процессор CX9-1600G.
Rubin Ultra появится в 2027 году. Нынешняя демонстрация — физический лоток без раскрытия технических деталей.
