S5-nano: 브라질 Maritaca의 포르투갈어 소형 모델

브라질 Maritaca AI가 Qwen3.5-4B를 기반으로 계속 사전 학습 및 후속 학습을 수행하여 만든 4B 모델로, 브라질 포르투갈어를 주요 타겟으로 하며 함수 호출, 도구 사용 및 구조화된 출력 기능을 유지합니다. 사고 모드(기본값)와 직접 답변 모드를 모두 지원하며, 컨텍스트 길이는 262,144 토큰이고 가중치에 MTP 레이어가 포함되어 있어 추측 디코딩(speculative decoding)이 가능합니다. 공식적으로 사고 모드에서의 종합 평균 점수는 75.25이며, Qwen3.5-4B는 68.68로, 성능 향상은 주로 브라질 현지 테스트에서 비롯되었습니다. 포르투갈어로 번역된 테스트와 비(非)포르투갈어 테스트는 기본 모델과 유사하거나 약간 낮은 수준입니다. BF16(9.3 GB), FP8(5.8 GB) 및 GGUF(Q4_K_M 2.8 GB부터) 세 가지 버전을 제공합니다.

원제: maritaca-ai/S5-nano

브라질 Maritaca AI가 Qwen3.5-4B를 기반으로 계속 사전 학습 및 후속 학습을 수행하여 만든 4B 모델로, 브라질 포르투갈어를 주요 타겟으로 하며 함수 호출, 도구 사용 및 구조화된 출력 기능을 유지합니다. 사고 모드(기본값)와 직접 답변 모드를 모두 지원하며, 컨텍스트 길이는 262,144 토큰이고 가중치에 MTP 레이어가 포함되어 있어 추측 디코딩(speculative decoding)이 가능합니다. 공식적으로 사고 모드에서의 종합 평균 점수는 75.25이며, Qwen3.5-4B는 68.68로, 성능 향상은 주로 브라질 현지 테스트에서 비롯되었습니다. 포르투갈어로 번역된 테스트와 비(非)포르투갈어 테스트는 기본 모델과 유사하거나 약간 낮은 수준입니다. BF16(9.3 GB), FP8(5.8 GB) 및 GGUF(Q4_K_M 2.8 GB부터) 세 가지 버전을 제공합니다.

중요한 이유 비영어권 현지화 소형 모델의 사례: 브라질 현지 테스트에서 명확한 성능 향상, 도구 호출 기능 유지, GGUF 버전은 노트북에서도 실행 가능

상승 점수 71 · 좋아요 72 · 다운로드 수 1099

이유

  • 공식 평가가 브라질 현지, 포르투갈어 번역, 비(非)포르투갈어 세 가지 범주로 구분되어 있어 성능 향상이 어느 범주에 집중되었는지 한눈에 파악 가능
  • Apache-2.0 라이선스이며, vLLM, SGLang, llama.cpp 모두 기존 명령어가 지원됨

사용법

  • vllm serve maritaca-ai/S5-nano --reasoning-parser qwen3 --enable-auto-tool-choice --tool-call-parser qwen3_coder; chat_template_kwargs의 enable_thinking을 사용하여 모드 전환
  • 로컬 실행: llama-server -hf maritaca-ai/S5-nano-GGUF:Q4_K_M --jinja -c 32768

리스크

  • 주로 포르투갈어를 대상으로 하며, 모델 카드에 중국어 능력에 대한 설명이 없음
  • 평가는 공식 자체 수행 결과임
  • 본 항목은 실행되지 않았으므로 성능은 모델 카드를 기준으로 함

열기

Hugging Face Trending

최신 AI 소식 보기