S5-nano: Mô hình nhỏ tiếng Bồ Đào Nha của Maritaca Brazil

Mô hình 4B do Maritaca AI Brazil phát triển bằng cách tiếp tục tiền huấn luyện và hậu huấn luyện trên Qwen3.5-4B, tập trung vào tiếng Bồ Đào Nha Brazil, đồng thời duy trì khả năng gọi hàm, sử dụng công cụ và xuất dữ liệu có cấu trúc. Có hai chế độ: suy nghĩ (mặc định) và trả lời trực tiếp, với ngữ cảnh 262,144 token, trọng số có lớp MTP hỗ trợ giải mã suy đoán. Theo thông tin chính thức, điểm trung bình tổng hợp trong chế độ suy nghĩ là 75.25, so với 68.68 của Qwen3.5-4B, mức cải thiện chủ yếu đến từ các bài kiểm tra nội địa Brazil; các bài kiểm tra được dịch sang tiếng Bồ Đào Nha và các bài kiểm tra không phải tiếng Bồ Đào Nha tương đương hoặc thấp hơn một chút so với mô hình gốc. Cung cấp ba phiên bản: BF16 (9.3 GB), FP8 (5.8 GB) và GGUF (từ Q4_K_M 2.8 GB).

Tên gốc: maritaca-ai/S5-nano

Mô hình 4B do Maritaca AI Brazil phát triển bằng cách tiếp tục tiền huấn luyện và hậu huấn luyện trên Qwen3.5-4B, tập trung vào tiếng Bồ Đào Nha Brazil, đồng thời duy trì khả năng gọi hàm, sử dụng công cụ và xuất dữ liệu có cấu trúc. Có hai chế độ: suy nghĩ (mặc định) và trả lời trực tiếp, với ngữ cảnh 262,144 token, trọng số có lớp MTP hỗ trợ giải mã suy đoán. Theo thông tin chính thức, điểm trung bình tổng hợp trong chế độ suy nghĩ là 75.25, so với 68.68 của Qwen3.5-4B, mức cải thiện chủ yếu đến từ các bài kiểm tra nội địa Brazil; các bài kiểm tra được dịch sang tiếng Bồ Đào Nha và các bài kiểm tra không phải tiếng Bồ Đào Nha tương đương hoặc thấp hơn một chút so với mô hình gốc. Cung cấp ba phiên bản: BF16 (9.3 GB), FP8 (5.8 GB) và GGUF (từ Q4_K_M 2.8 GB).

Tại sao quan trọng Một ví dụ về mô hình nhỏ được bản địa hóa cho ngôn ngữ không phải tiếng Anh: cải thiện rõ rệt trong các bài kiểm tra nội địa Brazil, duy trì khả năng gọi công cụ, phiên bản GGUF có thể chạy trên laptop

Điểm tăng 71 · Lượt thích 72 · Lượt tải 1099

Lý do

  • Đánh giá chính thức được phân loại riêng thành ba nhóm: nội địa Brazil, dịch sang tiếng Bồ Đào Nha và không phải tiếng Bồ Đào Nha, giúp dễ dàng xác định nhóm nào có mức cải thiện tập trung
  • Giấy phép Apache-2.0, có sẵn lệnh cho vLLM, SGLang và llama.cpp

Cách sử dụng

  • vllm serve maritaca-ai/S5-nano --reasoning-parser qwen3 --enable-auto-tool-choice --tool-call-parser qwen3_coder; sử dụng enable_thinking trong chat_template_kwargs để chuyển đổi chế độ
  • Chạy cục bộ: llama-server -hf maritaca-ai/S5-nano-GGUF:Q4_K_M --jinja -c 32768

Rủi ro

  • Chủ yếu hướng tới tiếng Bồ Đào Nha, thẻ mô hình không nêu rõ khả năng tiếng Trung
  • Đánh giá do chính nhà phát triển thực hiện
  • Mục này chưa được chạy thử, hiệu quả thực tế dựa trên thẻ mô hình

Mở

Hugging Face Trending

Xem tin AI mới nhất