原题:maritaca-ai/S5-nano
巴西 Maritaca AI 在 Qwen3.5-4B 上做继续预训练和后训练得到的 4B 模型,主攻巴西葡萄牙语,同时保留函数调用、工具使用和结构化输出能力。有思考(默认)和直接回答两种模式,上下文 262,144 token,权重带 MTP 层可做投机解码。官方称思考模式下综合平均 75.25,Qwen3.5-4B 为 68.68,提升主要来自巴西本土测试;翻译成葡语的测试和非葡语测试与基座相近、略低。提供 BF16(9.3 GB)、FP8(5.8 GB)和 GGUF(Q4_K_M 2.8 GB 起)三种版本。
为什么重要 非英语本地化小模型的样本:巴西本土测试明显提升,工具调用能力保留,GGUF 版笔记本能跑
上升分 71 · 点赞 72 · 下载量 1099
理由
- 官方评测按巴西本土、翻译葡语、非葡语三类分开列,提升集中在哪一类一目了然
- Apache-2.0,vLLM、SGLang、llama.cpp 都有现成命令
用法
- vllm serve maritaca-ai/S5-nano --reasoning-parser qwen3 --enable-auto-tool-choice --tool-call-parser qwen3_coder;用 chat_template_kwargs 里的 enable_thinking 切换模式
- 本地:llama-server -hf maritaca-ai/S5-nano-GGUF:Q4_K_M --jinja -c 32768
风险
- 主要面向葡萄牙语,模型卡没有说明中文能力
- 评测为官方自跑
- 本条未运行,效果以模型卡为准