Thinking Machines Lab — стартап Миры Мурати, экс-технического директора OpenAI, — представила свою первую модель. Она называется Inkling и, в отличие от флагманов OpenAI, Anthropic и Google, выложена в открытый доступ: веса можно скачать и дообучить под себя.
Это модель типа mixture-of-experts. Всего в ней 975 миллиардов параметров, но на каждый конкретный запрос задействуется только 41 миллиард — так модель работает быстрее и дешевле. Обучали её на 45 триллионах токенов текста, изображений, аудио и видео. Пока, впрочем, отвечает Inkling только текстом: код, структурированные данные, готовое оформление.
Компания сама признаёт: Inkling — не самая сильная модель на рынке, ни среди открытых, ни среди закрытых. Ставка не на мощность, а на гибкость. Модель умеет честно признавать неуверенность вместо угадывания, а пользователь может регулировать «глубину размышления» — в обмен на скорость. По заявлению компании, на одном из тестов по написанию кода Inkling тратит втрое меньше токенов, чем свежая открытая модель Nvidia Nemotron 3 Ultra, при том же результате.
Thinking Machines подаёт Inkling не как готовый продукт, а как заготовку для дообучения через свою платформу Tinker. За безопасность кастомизаций отвечает уже не компания, а сами клиенты.
Идея в том, что модель, которую организация настраивает под себя, работает лучше универсального чат-бота — примерно об этом на прошлой неделе писал и глава Microsoft Сатья Наделла, предупредив, что компании, использующие чужие проприетарные модели, платят дважды: подпиской и своей экспертизой, которая утекает в чужие будущие версии моделей.
Показательный пример — проект с Bridgewater Associates, крупнейшим в мире хедж-фондом: открытую модель дообучили на финансовой экспертизе фонда, и она обошла проприетарные модели на тесте по финансовому анализу, а работать стала в 14 раз дешевле.
Часть данных для постобучения Inkling компания получила от других открытых моделей, включая Kimi K2.5 от Moonshot AI — эту практику в индустрии называют дистилляцией. В следующей модели, обещают в Thinking Machines, обойдутся без чужих данных.
