Компания Яндекс официально выложила в открытый доступ полноценную Instruct-версию своей флагманской языковой модели YandexGPT 5 Lite, существенно расширив ее функциональность и доступность. Размер — 8 млрд параметров, а контекстное окно — 32 тысяч токенов. Есть GGUF-версия и полная совместимость с популярной библиотекой llama.cpp, что делает возможным локальный запуск модели.
В независимых бенчмарках российская модель уверенно превосходит китайскую Qwen2.5-7B-Instruct и показывает результаты на уровне GPT-4o Mini от OpenAI при решении стандартных задач. Примечательно, что на русском языке и в задачах разметки текстов YandexGPT 5 Lite демонстрирует даже лучшие показатели, а в прямых сравнительных тестах Side by Side одерживает победу в 62% случаев.
Новая Instruct-версия прошла дополнительное обучение для точного следования инструкциям и была тщательно выровнена (aligned), что позволяет ей эффективно выполнять конкретные задачи по заданному промпту пользователя.
По сравнению с предыдущими версиями, YandexGPT 5 Lite демонстрирует значительный прогресс в критически важных областях — особенно в программировании и решении математических задач.
Параллельно с технологическим обновлением Яндекс представил важные изменения в лицензионной политике. Теперь обе версии открытой модели могут свободно использоваться в коммерческих целях при соблюдении лимита в 10 миллионов выходных токенов в месяц. Это решение открывает широкие возможности для внедрения передовых технологий искусственного интеллекта в российский бизнес и стартап-экосистему.
Исходный код и веса модели доступны на платформе Hugging Face по адресу huggingface.co/yandex/YandexGPT-5-Lite-8B-instruct, а квантизованная GGUF-версия размещена по ссылке huggingface.co/yandex/YandexGPT-5-Lite-8B-instruct-GGUF.