OpenAI представила режим Ultrafast для своей новой модели GPT-5.6 Sol. Компания утверждает, что он ускоряет генерацию ответа в 14 раз по сравнению со стандартным режимом.
Скорость достигает 750 выходных токенов в секунду. Токены — это небольшие фрагменты текста, из которых языковая модель собирает ответ.
Раньше для работы в реальном времени разработчикам часто приходилось выбирать небольшую или специализированную модель. Ultrafast должен дать скорость компактных моделей без отказа от возможностей GPT-5.6 Sol.
OpenAI предлагает использовать новый режим там, где задержка напрямую влияет на результат. Среди примеров — реакция на сбои в IT-системах, поддержка клиентов, анализ финансовых рынков и управление интернет-магазинами.
В основе Ultrafast лежит партнёрство OpenAI с производителем чипов Cerebras.
Похожие режимы есть и у конкурентов. Anthropic предлагает fast mode для Claude, однако заявленная OpenAI скорость выше.
Пока Ultrafast доступен в предварительном режиме только небольшой группе клиентов. OpenAI обещает расширять доступ по мере появления дополнительных вычислительных мощностей.
