Французская Mistral открыла предварительный доступ к Large 4 — мультимодальной ИИ-модели с триллионом параметров. Разработчики уже могут подключиться к ней через API, а веса для запуска на собственных серверах компания обещает опубликовать 27 октября.
Модель получила внутреннее имя Le Chonk и умеет работать с текстом и изображениями. При выполнении одной задачи она задействует только 49 млрд параметров из триллиона. Такой подход снижает вычислительную нагрузку.
Large 4 обучили с нуля за два месяца примерно на 4 тыс. ускорителей Nvidia Grace Blackwell в европейских дата-центрах Mistral. По данным компании, обучение потребляло около 10 МВт мощности. Этап обучения с подкреплением ещё продолжается, поэтому опубликованные результаты тестов остаются предварительными.
В тесте DeepSWE, где ИИ решает реальные задачи по разработке программного обеспечения, Large 4 набрала 62%. На финансовом FinWorkBench результат составил 67%. В юридическом тесте Harvey’s Legal Agent модель получила лишь 15%, хотя и обошла перечисленных Mistral соперников.
Сильнее всего Large 4 показала себя в поиске заданных объектов на изображениях. На тесте спутниковых и аэрофотоснимков DIOR-RSVG она набрала 73% против 68% у GPT-6 Astra. Mistral рассчитывает применять эту технологию для оценки ущерба после штормов, проверки линий электропередачи и наблюдения за состоянием посевов. Модель также умеет преобразовывать технические чертежи в CAD-модели.
Отдельный акцент сделан на кибербезопасности и независимом развёртывании. Банки, компании и государственные организации смогут запустить Large 4 в своей инфраструктуре, не передавая данные внешнему провайдеру. Модель обучена более чем на 160 языках, включая все официальные языки Евросоюза.
До публикации весов Mistral намерена раскрыть больше сведений об устройстве, дообучении и проверках безопасности Large 4. Нынешняя версия станет основой для семейства специализированных моделей.