Thinking Machines Lab ужала флагманскую модель вчетверо — и почти ничего не потеряла

Thinking Machines Lab ужала флагманскую модель вчетверо — и почти ничего не потеряла

Thinking Machines Lab выпустила Inkling-Small — модель, которая почти не уступает её старшей версии, но весит вчетверо меньше.

Старший Inkling вышел всего две недели назад, в нём 975 миллиардов параметров. Inkling-Small — модель с открытыми весами: их можно скачать и запустить на своём железе, не отправляя данные в чужое облако. Компанию основала Мира Мурати, бывший технический директор OpenAI.

На графике с результатами десяти бенчмарков Inkling-Small идёт вровень со старшей моделью; туда же нанесены ещё три модели — DeepSeek V4 Flash, Gemini 3.5 Flash-Lite и GPT-5.6 Luna. Исключение одно, зато показательное: SimpleQA Verified — тест на фактическую точность. Здесь маленькая модель отстаёт сильно. Логично: фактов во вчетверо меньший объём параметров просто не помещается.

В рассуждениях и агентных задачах — там, где модель выполняет многошаговую работу, а не просто отвечает на вопрос — Inkling-Small показывает результат на уровне Inkling или выше. Среди открытых моделей своего весового класса у неё хороший баланс между качеством ответа и количеством потраченных токенов.

Главная специализация та же, что у старшей модели, — обработка звука. Thinking Machines Lab называет Inkling-Small оптимальным выбором для голосовых приложений. Зрение при этом не принесли в жертву: по картинкам модель подбирается к некоторым закрытым конкурентам.

Защитные механизмы перенесли из Inkling без изменений. На FORTRESS (риски, связанные с преступлениями и насилием) и StrongREJECT (отказ от явно вредных запросов) результаты те же, что у старшей модели.

Inkling-Small доступна в сервисе Thinking Machines Lab — Tinker; там же остаётся и старший Inkling. На Hugging Face выложены две версии весов — BF16 и NVFP4.

Размер перестал быть главным аргументом. Кроме тех случаев, когда от модели нужны факты.

Ирина Задорожная
Ирина Задорожная

Журналист с опытом работы в оффлайн-медиа и онлайн-изданиях. Пишу про искусственный интеллект, ИТ-системы и сервисы, про ИТ-бизнес уже 10 лет.