원제: Nanbeige/Nanbeige4.3-33B
Nanbeige4.3 시리즈의 플래그십 '교사 모델': 저자의 접근 방식은 먼저 강력한 에이전트 모델을 구축한 후, 에이전트 능력을 소형 모델(예: 이후의 Nanbeige4.3-3B)로 증류(distillation)하는 것입니다. 복잡한 코딩 및 전문 오피스(cowork) 작업을 주요 타겟으로 하며, 512K 컨텍스트를 지원합니다. 채팅 템플릿에서 추론 기능(enable_thinking)을 켜거나 끌 수 있으며, 다중 턴 대화에서 이전 추론 결과를 유지할지 여부(preserve_thinking)를 선택할 수 있습니다. tools 매개변수를 전달하면 도구 호출 템플릿이 활성화됩니다(xml 형식 권장, json도 지원). Nanbeige4.3-33B-Base를 기반으로 하며, 10월 24일에 리포지토리가 생성되었으나 이전 호에서는 다루지 않았습니다.
상승 점수 78.5 · 좋아요 1050 · 다운로드 수 19178
이유
- 저자는 약 30B급 오픈소스 모델 중 에이전트 성능이 선두라고 주장합니다. Qwen3.8-27B, Muse-Glimmer-30B, Gemma4-31B와 동일한 프레임워크 및 최고 추론 설정으로 비교했을 때, Terminal-Bench 2.1 80.9(Qwen3.8-27B 73.0), DeepSWE 65.5(42.5), Automation Bench 54.2(38.3), DeepPlanning 63.3(49.2)의 점수를 기록했습니다.
- 코딩에만 국한되지 않음: 저자는 JobBench가 다루는 35개 직업 중 대부분에서 기준선을 상회한다고 주장합니다. 표에 따르면 SWE-Bench Pro 60.3, GDPval 84.8은 Qwen3.8-27B의 61.7 및 86.4보다 약간 낮으며, 저자는 이를 숨기지 않았습니다.
- Apache-2.0 라이선스; Transformers, SGLang, vLLM 모두 실행 명령어를 제공합니다. 하트 좋아요 1050개(관심도만 반영).
사용법
- vLLM: vllm serve <local_path> --tensor-parallel-size 4 --gpu-memory-utilization 0.8 --enable-auto-tool-choice --reasoning-parser qwen3 --tool-call-parser qwen3_coder; SGLang은 python -m sglang.launch_server --model-path <path> --tp-size 4 --reasoning-parser qwen3 --tool-call-parser qwen3_coder를 사용합니다. Transformers는 trust_remote_code와 use_fast=False 토크나이저가 필요합니다.
- 매개변수: 에이전트 / 도구 호출의 경우 temperature 1.0, top_p 0.95, 최대 65,536개의 새 토큰을 생성하며 preserve_thinking을 켭니다. 추론 및 채팅의 경우 temperature 0.6, top_p 0.95, 최대 262,144개의 새 토큰을 생성하며 preserve_thinking을 끕니다.
리스크
- 모든 성능 지표는 저자의 자체 평가이며, 비교 대상은 세 가지 동급 모델로만 제한되었습니다. 모델 구조나 학습 데이터에 대한 정보가 명시되지 않았으며, 처음부터 학습한 것인지 여부도 설명되지 않았습니다.
- 모델 카드에 VRAM 요구 사항이 명시되지 않았으며, 공식 실행 명령어는 모두 4 GPU 텐서 병렬 처리를 사용합니다. trust_remote_code가 필요합니다.