Raon-1 nano : petit modèle on-device bilingue coréen-anglais capable d'appeler des outils

Petit modèle dense de KRAFTON AI, filiale de KRAFTON (développeur de PUBG) : paramètres effectifs 1.5B, paramètres totaux 3.1B (y compris une table d'embeddings par couche de 1.5B), contexte de 262,144 tokens, mode de réflexion activé par défaut. Sur les 24 couches, 18 utilisent l'attention linéaire (Raon Delta Attention) et seules 6 couches MLA conservent le cache KV, soit environ 7 KiB par token. Il est dérivé de Raon-1 mini preview (30B-A4B) via un élagage et une distillation de MoE vers dense, suivi d'une pré-entraînement continu sur 3T tokens, puis d'un SFT, d'une distillation en ligne et d'un apprentissage par renforcement. Comparaison officielle avec des modèles de niveau équivalent tels que Qwen3.5 2B et Gemma 4 E2B : IFBench 75.9, FACTS Grounding 44.4 et KMMLU-Redux 50.9 sont les plus élevés du tableau, tandis que BFCL v4 atteint 56.3, inférieur aux 67.2 de LFM3 1.7B.

Titre original : KRAFTON/Raon-1-nano

Petit modèle dense de KRAFTON AI, filiale de KRAFTON (développeur de PUBG) : paramètres effectifs 1.5B, paramètres totaux 3.1B (y compris une table d'embeddings par couche de 1.5B), contexte de 262,144 tokens, mode de réflexion activé par défaut. Sur les 24 couches, 18 utilisent l'attention linéaire (Raon Delta Attention) et seules 6 couches MLA conservent le cache KV, soit environ 7 KiB par token. Il est dérivé de Raon-1 mini preview (30B-A4B) via un élagage et une distillation de MoE vers dense, suivi d'une pré-entraînement continu sur 3T tokens, puis d'un SFT, d'une distillation en ligne et d'un apprentissage par renforcement. Comparaison officielle avec des modèles de niveau équivalent tels que Qwen3.5 2B et Gemma 4 E2B : IFBench 75.9, FACTS Grounding 44.4 et KMMLU-Redux 50.9 sont les plus élevés du tableau, tandis que BFCL v4 atteint 56.3, inférieur aux 67.2 de LFM3 1.7B.

Pourquoi c'est important Un autre exemple de petit modèle localisé non-anglais, avec des versions officielles GGUF, MLX et LiteRT-LM disponibles pour une exécution locale sur ordinateurs portables et puces Apple

Score de montée 48 · J'aime 48 · Téléchargements 58

Raisons

  • Entraînement bilingue coréen et anglais, capable d'appeler des outils lors des conversations, les tests officiels couvrant le travail de bureau, le contrôle du téléphone, les commandes de terminal et la recherche
  • Formats complets : versions officielles disponibles pour GGUF, MLX (4 bits) et LiteRT-LM, exécution locale possible sur puces Apple
  • Poids sous licence Apache-2.0, utilisation commerciale autorisée

Utilisation

  • llama.cpp : après avoir compilé la branche raon-1-nano-preview de KRAFTON, lancez llama-cli -hf KRAFTON/Raon-1-nano-gguf:Q4_K_M --reasoning on
  • Puces Apple : après installation via pip de mlx==0.32.4 et mlx-lm, chargez KRAFTON/Raon-1-nano-mlx (trust_remote_code=True)
  • Recommandations officielles : pour les conversations quotidiennes, temperature 0.1 et presence_penalty 1.5 ; pour les agents et le code, temperature 1.0

Risques

  • vLLM et llama.cpp nécessitent temporairement les branches propres à KRAFTON, l'intégration dans la branche principale n'étant pas encore faite
  • Office Work Bench et Chatbot Korean sont des tests internes non publics ; la fiche du modèle ne précise pas les capacités en chinois
  • La version transformers traite les prompts token par token, ce qui rend le pré-remplissage lent pour les prompts longs ; la version LiteRT-LM n'offre qu'un contexte de 4,096 tokens et ne fait pas de réflexion
  • Cette entrée n'a pas été exécutée, les performances sont à vérifier selon la fiche du modèle

Ouvrir

Hugging Face Trending

Parcourir les dernières actualités IA