Mistral 迄今最大的开源权重模型:约 1T 总参数、每 token 激活约 52B(不含嵌入层为 49B)的原生多模态 MoE,输入文字和图片、输出文字,100 万 token 上下文;指令、推理、编程和智能体任务合在一套权重里,推理强度分 low / medium / high 三档按请求切换。
上升分 300 · 点赞 1221 · 下载量 278
理由
- 官方称 Artificial Analysis 编程智能体指数 48%,与开源领先的 GLM-5.3 基本持平但每个任务平均少用 47% 的 token;Artificial Analysis 智能指数 v5 得 26,是西方开源模型最高,但官方也承认中国的领先开源模型总分更高。
- 128 个路由专家每 token 激活 4 个外加 1 个共享专家,在 3,800 张 Grace Blackwell GPU 上从零训练;官方称在网络安全、金融、法律和视觉定位上表现突出,支持原生函数调用和严格 JSON Schema 输出,覆盖 160 多种语言。
- 首发就有 vLLM、SGLang 镜像、Transformers、llama.cpp GGUF,以及 Axolotl、Unsloth、TRL 微调指南,另有面向 Blackwell 的 NVFP4 版;10 月 29 日随抱脸博客发布,此前各期没有收录。上升分 300 只代表关注度。
用法
- vLLM(官方推荐):docker pull vllm/vllm-openai:mistral-large-4,--tensor-parallel-size 8 --tool-call-parser mistral --reasoning-parser mistral --enable-auto-tool-choice 启动;加 --speculative-config '{"method": "dspark", "num_speculative_tokens": 3}' 开内置 DSpark 推测解码,官方称吞吐最多提高 1.9 倍。
- SGLang:lmsysorg/sglang:mistral-large-4 镜像,sglang serve --tp-size 8 --speculative-algorithm DSPARK;采样统一用 temperature 1.0、top_p 0.95,复杂和智能体任务 reasoning_effort="high"(默认),日常 medium,快速回复 low。
- 也能直接调 Mistral API 的 mistral-large-4,或在官方编程代理 Mistral Vibe 里接本地 vLLM。
风险
- 官方示例按 8 卡张量并行部署,个人设备跑不了;NVFP4 版只面向 Blackwell 显卡。
- 许可是 Mistral Ecosystem Open-Weight License(改过的 MIT):商用可以,但做模型即服务(MaaS)业务要另签商业许可。
- 模型卡只给了两个综合指数,其余对比在图片和博客里,均为官方引用的榜单成绩。