Tiêu đề gốc: Nanbeige/Nanbeige4.3-33B
Mô hình “giáo viên” hàng đầu của dòng Nanbeige4.3: Lộ trình của tác giả là trước tiên xây dựng một mô hình tác nhân có năng lực mạnh, sau đó chưng cất (distill) năng lực tác nhân vào các mô hình nhỏ hơn (ví dụ: Nanbeige4.3-3B sau này). Tập trung vào các tác vụ lập trình phức tạp và công việc văn phòng chuyên nghiệp (cowork), hỗ trợ ngữ cảnh 512K; mẫu chat có thể bật/tắt suy luận (enable_thinking), tùy chọn giữ lại suy luận trước đó trong các lượt hội thoại nhiều vòng (preserve_thinking), kích hoạt mẫu gọi công cụ khi truyền tools (khuyến nghị định dạng xml, cũng hỗ trợ json). Dựa trên Nanbeige4.3-33B-Base, kho lưu trữ được tạo vào ngày 24 tháng 10, các kỳ trước chưa được đưa tin.
Điểm tăng 78.5 · Lượt thích 1050 · Lượt tải 19178
Lý do
- Tác giả tuyên bố dẫn đầu về hiệu suất tác nhân trong số các mô hình mã nguồn mở cỡ khoảng 30B: So sánh với Qwen3.8-27B, Muse-Glimmer-30B, Gemma4-31B sử dụng cùng khung làm việc và mức suy luận cao nhất, Terminal-Bench đạt 2.1 80.9 (Qwen3.8-27B 73.0), DeepSWE 65.5 (42.5), Automation Bench 54.2 (38.3), DeepPlanning 63.3 (49.2).
- Không chỉ lập trình: Tác giả tuyên bố trong 35 nghề nghiệp được JobBench bao quát, phần lớn đều vượt mức cơ sở; trong bảng, SWE-Bench Pro 60.3 và GDPval 84.8 thấp hơn một chút so với 61.7 và 86.4 của Qwen3.8-27B, tác giả không che giấu điều này.
- Giấy phép Apache-2.0; đã cung cấp lệnh khởi động cho Transformers, SGLang, vLLM. Lượt thích (hug) 1050 (chỉ phản ánh mức độ quan tâm).
Cách sử dụng
- vLLM: vllm serve <đường dẫn cục bộ> --tensor-parallel-size 4 --gpu-memory-utilization 0.8 --enable-auto-tool-choice --reasoning-parser qwen3 --tool-call-parser qwen3_coder; SGLang sử dụng python -m sglang.launch_server --model-path <đường dẫn> --tp-size 4 --reasoning-parser qwen3 --tool-call-parser qwen3_coder. Transformers yêu cầu trust_remote_code và tokenizer với use_fast=False.
- Tham số: Tác nhân / gọi công cụ có temperature 1.0, top_p 0.95, tối đa 65,536 token mới, và bật preserve_thinking; suy luận và chat có temperature 0.6, top_p 0.95, tối đa 262,144 token mới, tắt preserve_thinking.
Rủi ro
- Các kết quả đều do tác giả tự đánh giá, so sánh chỉ chọn ba mô hình cùng cấp; thẻ mô hình không ghi rõ kiến trúc mô hình, dữ liệu huấn luyện, cũng không nêu rõ có được huấn luyện từ đầu hay không.
- Thẻ mô hình không cung cấp yêu cầu bộ nhớ VRAM, các lệnh khởi động chính thức đều dùng tensor parallelism trên 4 GPU; cần trust_remote_code.