Raon-1 nano: 한국어 및 영어 이중 언어 지원, 도구 호출이 가능한 온디바이스 소형 모델

'배틀그라운드' 개발사 KRAFTON의 AI 부서인 KRAFTON AI가 공개한 조밀(dense) 소형 모델입니다. 유효 파라미터는 1.5B이며, 총 파라미터는 3.1B(레이어별 임베딩 테이블 1.5B 포함)입니다. 컨텍스트 길이는 262,144 토큰이며, 기본 설정으로 사고(reasoning) 모드가 활성화되어 있습니다. 전체 24 레이어 중 18 레이어는 선형 어텐션(Raon Delta Attention)을 사용하며, KV 캐시를 유지하는 MLA 레이어는 단 6개뿐이어서 토큰당 약 7 KiB의 메모리만 소요됩니다. 이 모델은 Raon-1 mini preview(30B-A4B)를 MoE에서 조밀 구조로 변환하는 가지치기(pruning)와 증류(distillation) 과정을 거쳐 만들어졌으며, 이후 3T 토큰에 대한 추가 사전 학습, SFT(지도 미세 조정), 온라인 증류 및 강화 학습을 수행했습니다. 공식 벤치마크 비교에서 Qwen3.5 2B, Gemma 4 E2B 등 동급 모델 대비 IFBench 75.9, FACTS Grounding 44.4, KMMLU-Redux 50.9 점수가 표 중 가장 높았으나, BFCL v4 점수는 56.3로 LFM3 1.7B의 67.2보다 낮았습니다.

원제: KRAFTON/Raon-1-nano

'배틀그라운드' 개발사 KRAFTON의 AI 부서인 KRAFTON AI가 공개한 조밀(dense) 소형 모델입니다. 유효 파라미터는 1.5B이며, 총 파라미터는 3.1B(레이어별 임베딩 테이블 1.5B 포함)입니다. 컨텍스트 길이는 262,144 토큰이며, 기본 설정으로 사고(reasoning) 모드가 활성화되어 있습니다. 전체 24 레이어 중 18 레이어는 선형 어텐션(Raon Delta Attention)을 사용하며, KV 캐시를 유지하는 MLA 레이어는 단 6개뿐이어서 토큰당 약 7 KiB의 메모리만 소요됩니다. 이 모델은 Raon-1 mini preview(30B-A4B)를 MoE에서 조밀 구조로 변환하는 가지치기(pruning)와 증류(distillation) 과정을 거쳐 만들어졌으며, 이후 3T 토큰에 대한 추가 사전 학습, SFT(지도 미세 조정), 온라인 증류 및 강화 학습을 수행했습니다. 공식 벤치마크 비교에서 Qwen3.5 2B, Gemma 4 E2B 등 동급 모델 대비 IFBench 75.9, FACTS Grounding 44.4, KMMLU-Redux 50.9 점수가 표 중 가장 높았으나, BFCL v4 점수는 56.3로 LFM3 1.7B의 67.2보다 낮았습니다.

왜 중요한가 비영어권 로컬라이제이션을 위한 소형 모델의 또 다른 사례입니다. 공식적으로 GGUF, MLX, LiteRT-LM 버전을 제공하며, 노트북 및 Apple 칩 기반 기기에서 로컬로 실행할 수 있습니다.

상승 점수 48 · 좋아요 48 · 다운로드 수 58

이유

  • 한국어와 영어 이중 언어로 학습되었으며, 대화 중 도구 호출이 가능합니다. 공식 테스트는 오피스 작업, 모바일 제어, 터미널 명령어 및 검색 기능을 포함합니다.
  • 포맷 지원이 완벽합니다: GGUF, MLX(4비트), LiteRT-LM 모두 공식 버전이 제공되며, Apple 칩에서 로컬 실행이 가능합니다.
  • 라이선스는 Apache-2.0로 상업적 사용이 가능합니다.

사용법

  • llama.cpp: KRAFTON의 raon-1-nano-preview 브랜치를 컴파일한 후 llama-cli -hf KRAFTON/Raon-1-nano-gguf:Q4\_K\_M --reasoning on 명령어를 사용합니다.
  • Apple 칩: pip를 통해 mlx==0.32.4 및 mlx-lm을 설치한 후 KRAFTON/Raon-1-nano-mlx(trust_remote_code=True)를 로드합니다.
  • 공식 권장 설정: 일상 대화 시 temperature 0.1, presence_penalty 1.5; 에이전트 및 코드 생성 시 temperature 1.0

리스크

  • vLLM과 llama.cpp는 현재 KRAFTON의 자체 브랜치를 사용해야 하며, 메인 브랜치에는 아직 병합되지 않았습니다.
  • Office Work Bench와 Chatbot Korean은 비공개 내부 테스트이며, 모델 카드에는 중국어 능력에 대한 설명이 없습니다.
  • transformers 버전은 토큰별 처리 방식으로 인해 긴 프롬프트의 프리필링(prefilling) 속도가 느립니다. LiteRT-LM 버전은 컨텍스트 길이가 4,096 토큰으로 제한되며 사고(reasoning) 기능을 지원하지 않습니다.
  • 본 항목은 실제 실행을 거치지 않았으므로, 성능은 모델 카드를 기준으로 합니다.

열기

Hugging Face Trending

최신 AI 소식 보기