Mistral의 역대 최대 오픈 웨이트 모델: 총 약 1T 파라미터, 토큰당 활성 약 52B(임베딩 레이어 제외 시 49B)의 네이티브 멀티모달 MoE로, 텍스트 및 이미지를 입력받아 텍스트를 출력하며, 100만 토큰 컨텍스트 윈도우를 지원합니다. 지시 따르기, 추론, 프로그래밍 및 에이전트 작업이 하나의 가중치 세트에 통합되어 있으며, 추론 강도는 요청별로 low / medium / high 세 단계로 전환할 수 있습니다.
상승 점수 300 · 좋아요 1221 · 다운로드 수 278
이유
- 공식적으로 Artificial Analysis 프로그래밍 에이전트 지수 48%을 기록하여 오픈 소스 선두 주자인 GLM-5.3와 거의 동등하지만, 작업당 평균 토큰 사용량은 47% 적습니다. Artificial Analysis 지능 지수 v5에서 26점을 획득하여 서방 오픈 소스 모델 중 최고 점수를 기록했으나, 공식적으로 중국의 선두 오픈 소스 모델이 총점에서 더 높다는 점을 인정했습니다.
- 128개의 라우팅 전문가 중 토큰당 4개와 공유 전문가 1개가 활성화되며, 3,800개의 Grace Blackwell GPU에서 처음부터 학습되었습니다. 공식적으로 사이버 보안, 금융, 법률 및 시각적 위치 지정에서 뛰어난 성능을 보이며, 네이티브 함수 호출과 엄격한 JSON Schema 출력을 지원하고 160개 이상의 언어를 커버합니다.
- 출시와 동시에 vLLM, SGLang 이미지, Transformers, llama.cpp GGUF가 지원되며, Axolotl, Unsloth, TRL 미세 조정 가이드가 제공됩니다. 또한 Blackwell용 NVFP4 버전이 있으며, 10월 29일 Hugging Face 블로그와 함께 발표되어 이전 호들에는 포함되지 않았습니다. 상승 점수 300는 단지 관심도를 나타냅니다.
사용법
- vLLM(공식 권장): docker pull vllm/vllm-openai:mistral-large-4를 실행하고, --tensor-parallel-size 8 --tool-call-parser mistral --reasoning-parser mistral --enable-auto-tool-choice 옵션으로 시작합니다. --speculative-config '{"method": "dspark", "num_speculative_tokens": 3}'를 추가하면 내장된 DSpark 추측 디코딩이 활성화되며, 공식적으로 처리량이 최대 1.9배까지 향상된다고 합니다.
- SGLang: lmsysorg/sglang:mistral-large-4 이미지를 사용하며, sglang serve --tp-size 8 --speculative-algorithm DSPARK로 실행합니다. 샘플링은 일관되게 temperature 1.0, top_p 0.95을 사용하며, 복잡하고 에이전트 중심의 작업에는 reasoning_effort="high"(기본값), 일상적인 작업에는 medium, 빠른 응답에는 low를 설정합니다.
- Mistral API의 mistral-large-4를 직접 호출하거나, 공식 프로그래밍 에이전트인 Mistral Vibe에서 로컬 vLLM을 연결하여 사용할 수도 있습니다.
리스크
- 공식 예제는 8개 카드를 사용한 텐서 병렬 배포를 기준으로 하므로 개인 장비에서는 실행할 수 없으며, NVFP4 버전은 Blackwell GPU 전용입니다.
- 라이선스는 Mistral Ecosystem Open-Weight License(수정된 MIT)입니다: 상업적 사용은 가능하지만, 모델-as-a-서비스(MaaS) 사업을 하려면 별도의 상업 라이선스를 체결해야 합니다.
- 모델 카드에는 두 개의 종합 지수만 제공되며, 나머지 비교는 이미지와 블로그에 포함되어 있고 모두 공식적으로 인용된 순위 성적입니다.