Оригинальное название: KRAFTON/Raon-1-nano
Плотная малая модель от KRAFTON AI, подразделения компании KRAFTON (разработчика PUBG): эффективные параметры — 1.5B, общие параметры — 3.1B (включая поуровневые таблицы эмбеддингов размером 1.5B), контекстное окно — 262,144 токенов, режим размышлений включен по умолчанию. Из 24 слоев 18 используют линейное внимание (Raon Delta Attention), и только 6 слоев MLA сохраняют KV-кэш, составляющий примерно 7 КиБ на токен. Модель получена из Raon-1 mini preview (30B-A4B) путем преобразования из MoE в плотную архитектуру с прунингом и дистилляцией, затем продолжено предобучение на 3T токенов, после чего выполнены SFT, онлайн-дистилляция и обучение с подкреплением. В официальном сравнении с моделями аналогичного класса, такими как Qwen3.5 2B и Gemma 4 E2B: показатели IFBench 75.9, FACTS Grounding 44.4 и KMMLU-Redux 50.9 являются наивысшими в таблице, а результат BFCL v4 составляет 56.3, что ниже показателя 67.2 модели LFM3 1.7B.
Почему это важно Еще один пример локализации малых моделей для неанглоязычных рынков; официально доступны версии GGUF, MLX и LiteRT-LM, которые можно запускать локально на ноутбуках и устройствах с чипами Apple.
Рост рейтинга: 48 · Лайки: 48 · Загрузки: 58
Причины
- Обучение на двуязычном корпусе (корейский и английский), возможность вызова инструментов в диалоге; официальное тестирование охватывает офисные задачи, управление смартфоном, терминальные команды и поиск.
- Полный набор форматов: официально доступны версии GGUF, MLX (4 бит) и LiteRT-LM; локальный запуск возможен на чипах Apple.
- Лицензия Apache-2.0, разрешено коммерческое использование.
Использование
- llama.cpp: после компиляции ветки raon-1-nano-preview от KRAFTON выполните команду llama-cli -hf KRAFTON/Raon-1-nano-gguf:Q4_K_M --reasoning on
- Чипы Apple: после установки пакетов mlx==0.32.4 и mlx-lm через pip загрузите модель KRAFTON/Raon-1-nano-mlx (с параметром trust_remote_code=True)
- Официальные рекомендации: для повседневного диалога используйте temperature 0.1 и presence_penalty 1.5; для агентов и работы с кодом — temperature 1.0.
Риски
- В vLLM и llama.cpp временно требуется использование собственных веток KRAFTON, так как изменения еще не объединены с основной линией разработки.
- Тесты Office Work Bench и Chatbot Korean являются непубличными внутренними тестами; в карточке модели не указано наличие поддержки китайского языка.
- Версия для transformers обрабатывает промпты токен за токеном, что приводит к медленному предзаполнению длинных промптов; версия LiteRT-LM имеет контекстное окно всего 4,096 токенов и не поддерживает режим размышлений.
- Данная модель не была запущена автором обзора; результаты следует оценивать по карточке модели.