Maxwell V1 Flash: 낮은 활성량으로 추론 및 에이전트 작업을 수행하는 MoE 모델

maxwell-model이 10월 13일에 생성하고 11월 14일에 업데이트한 MoE 언어 모델(카드 내 이름 Maxwell-V1.0-Flash). 총 파라미터 수 35B, 토큰당 활성 파라미터 수 3B(임베딩 제외), 컨텍스트 길이 256K, 순수 텍스트 모델. 자체 개발한 블록 희소 어텐션 MBSA(각 KV 그룹의 주요 어텐션을 4,096 토큰으로 제한, 공식적으로 256K 컨텍스트에서 커널이 밀집 GQA보다 6.7배 빠르다고 주장), 4개 경로 잔차 스트림 mHC 및 세분화된 전문가(총 256개 중 12개 선택, 추가로 공유 전문가 2개 포함); 약 26T 토큰의 다국어 사전 학습을 수행했으며, 토크나이저는 태국어, 라오어, 미얀마어, 크메르어 등 동남아시아 언어에 대해 더 효율적입니다. Apache-2.0 라이선스 적용.

원제: maxwell-model/Maxwell-V1-Flash

maxwell-model이 10월 13일에 생성하고 11월 14일에 업데이트한 MoE 언어 모델(카드 내 이름 Maxwell-V1.0-Flash). 총 파라미터 수 35B, 토큰당 활성 파라미터 수 3B(임베딩 제외), 컨텍스트 길이 256K, 순수 텍스트 모델. 자체 개발한 블록 희소 어텐션 MBSA(각 KV 그룹의 주요 어텐션을 4,096 토큰으로 제한, 공식적으로 256K 컨텍스트에서 커널이 밀집 GQA보다 6.7배 빠르다고 주장), 4개 경로 잔차 스트림 mHC 및 세분화된 전문가(총 256개 중 12개 선택, 추가로 공유 전문가 2개 포함); 약 26T 토큰의 다국어 사전 학습을 수행했으며, 토크나이저는 태국어, 라오어, 미얀마어, 크메르어 등 동남아시아 언어에 대해 더 효율적입니다. Apache-2.0 라이선스 적용.

왜 중요한가 활성량은 Qwen의 동급 모델과 유사하며, 공식적으로 검색 및 터미널 작업 점수가 더 높다고 주장합니다. 공식 예시는 단일 GPU 배포를 보여주며, Apache 라이선스를 적용합니다.

상승 점수 154 · 좋아요 156 · 다운로드 수 287

이유

  • 공식적으로 Qwen3.6-35B-A3B, Gemma-4-26B-A4B-it 등 4개의 동급 모델과 비교했습니다. BrowseComp 76.30(컨텍스트 관리 활성화 시 82.20), Terminal-Bench 58.65, SWE-Bench-Verified(Claude Code 프레임워크) 65.40, AIME 2025 mean@8 96.25 모두 표에서 가장 높은 점수를 기록했습니다.
  • 열등한 항목도 있습니다. IFBench 64.80, BBEH 52.51, CoSER 53.54 모두 표의 여러 모델보다 낮으며, 지시 따르기 평균 점수가 Gemma 4 및 Muse Glimmer보다 낮습니다.
  • 공식적으로 커스텀 vLLM 이미지, 기술 보고서 및 온라인 체험 페이지를 제공합니다.

사용법

  • hf download maxwell-model/Maxwell-V1-Flash를 사용하여 로컬로 다운로드한 후, docker로 maxwellmodel/vllm-openai:v0.30.0의 vllm serve를 실행합니다. --trust-remote-code --block-size 128 --reasoning-parser qwen3 --enable-auto-tool-choice --tool-call-parser qwen3_coder 옵션을 추가합니다.
  • 기본 설정으로 추론(Thinking)이 활성화됩니다. 다중 턴 대화 및 도구 호출 시 이전 턴의 reasoning_content와 tool_calls를 그대로 전달해야 합니다. 공식 평가에서는 주로 온도 0.6, top_p 0.95, top_k 20를 사용합니다.
  • NVIDIA 드라이버 버전 580 이상(CUDA 13.0)이 필요합니다. 구버전 드라이버를 사용하는 경우 docker run 명령어에 -e VLLM_ENABLE_CUDA_COMPATIBILITY=1를 추가합니다.

리스크

  • 카드에 개발 팀 또는 기관 배경에 대한 소개가 없으며, 연락처 이메일만 기재되어 있습니다.
  • 공식 커스텀 vLLM 이미지 및 trust_remote_code에 의존합니다. 공식적으로 VRAM 요구 사항이 명시되지 않았으며, 35B 전체 가중치를 단일 GPU에서 로드하려면 대용량 VRAM이 필요합니다.
  • 저장소는 10월 13일에 생성되었으나 최근에서야 상승세를 보였습니다. 점수는 모두 공식 내부 평가 프레임워크에서 나온 것입니다. 본 항목은 실행되지 않았습니다.

열기

Hugging Face Trending

최신 AI 소식 보기