KRAFTON/Raon-1-mini-preview

KRAFTON AI 从零训练的 30B-A4B 混合专家模型预览版，主打韩语对话和智能体任务，支持 7 种语言、原生 262,144 token 上下文。 上升分 162 · 点赞 172 · 下载量 917 **理由** - 官方称总参数 28.8B、每 token 激活 4.3B；25 层里 18 层是固定状态的 Raon Delta Attention，只有 7 层 MLA 保留 KV 缓存，BF16 下约每 token 8 KiB。 - 官方称 IFBench 84.2、AIME 2026 93.3、BrowseComp Plus 55.7、内部韩语对话评测 92.9，在所列同级 MoE 中领先。 - 同时发布 DFlash2 草稿模型，官方称单张 B300 上输出吞吐最高为自回归的 2.18 倍；NVFP4 版可在单张 RTX 5090（32 GB）上推理。上升分 162 只代表关注度。 **用法** - 支持 Transformers、vLLM、llama.cpp 和 MLX；仓库需在页面申请访问（自动批准），再 hf auth login 下载。 - 设计为思考模式，官方不建议关闭；采样 temperature 1.0、top\_p 0.95、top\_k 20，代码 / 数学 presence\_penalty 0，其他任务 1.5。 - 工具调用可接 Hermes Agent、Pi、OpenCode；另有 MXFP8 和 NVFP4 量化版。 **风险** - 明确是预览版，规格和成绩在正式版前可能变化。 - 官方表格里 MMLU Pro 76.5、Terminal-Bench Lite 47.0 明显低于 Qwen3.6-35B-A3B（85.9 / 63.3），知识问答和终端类任务不占优。 - 韩语对话分数来自未公开的内部评测，评测裁判为 gpt-5.6-luna。 [打开](https://huggingface.co/KRAFTON/Raon-1-mini-preview)