原題:KRAFTON/Raon-1-nano
『PUBG』開発元KRAFTON傘下のKRAFTON AIによる稠密小型モデル:有効パラメータ数 1.5B、総パラメータ数 3.1B(1.5Bのレイヤー別埋め込みテーブルを含む)、コンテキスト長 262,144 トークン、デフォルトで思考モード有効。24 レイヤー中 18 レイヤーは線形注意機構(Raon Delta Attention)であり、KVキャッシュを保持するMLAレイヤーは 6 レイヤーのみで、トークンあたり約 7 KiB。Raon-1 mini preview(30B-A4B)からMoEから稠密モデルへの剪枝と蒸留を経て生成され、さらに 3T トークンで継続事前学習、SFT、オンライン蒸留、強化学習を実施。公式比較ではQwen3.5 2B、Gemma 4 E2Bなどの同クラスモデルに対し、IFBench 75.9、FACTS Grounding 44.4、KMMLU-Redux 50.9はいずれも表中最高値を記録。BFCL v4は 56.3で、LFM3 1.7Bの 67.2を下回る。
なぜ重要か 非英語圏向けローカライズ小型モデルの新たな事例。公式がGGUF、MLX、LiteRT-LMバージョンを提供しており、ノートPCやAppleチップ上でローカル実行が可能
上昇スコア 48 · いいね 48 · ダウンロード数 58
理由
- 韓国語と英語のバイリンガルで学習され、会話中にツールを呼び出し可能。公式テストはオフィス業務、スマートフォン操作、ターミナルコマンド、検索をカバー
- フォーマットが充実:GGUF、MLX(4 ビット)、LiteRT-LMともに公式バージョンがあり、Appleチップでローカル実行可能
- 重みはApache-2.0ライセンスで商用利用可
使い方
- llama.cpp:KRAFTONのraon-1-nano-previewブランチをコンパイル後、llama-cli -hf KRAFTON/Raon-1-nano-gguf:Q4_K_M --reasoning on
- Appleチップ:pipでmlx==0.32.4とmlx-lmをインストール後、KRAFTON/Raon-1-nano-mlxを読み込み(trust_remote_code=True)
- 公式推奨:日常会話ではtemperature 0.1、presence_penalty 1.5。エージェントやコード生成ではtemperature 1.0
リスク
- vLLMとllama.cppは現在KRAFTON独自のブランチが必要で、メインラインには未統合
- Office Work BenchとChatbot Koreanは非公開の社内テストであり、モデルカードに中国語能力に関する記載はない
- transformers版はトークンごとの処理を促すため、長いプロンプトのプリフィルが遅い。LiteRT-LM版はコンテキストが 4,096 トークン限定で思考モード非対応
- 本項目は未実行であり、効果はモデルカードを参照のこと