mistralai/Mistral-Large-4-1T-A52B

Mistral 迄今最大的开源权重模型:约 1T 总参数、每 token 激活约 52B(不含嵌入层为 49B)的原生多模态 MoE,输入文字和图片、输出文字,100 万 token 上下文;指令、推理、编程和智能体任务合在一套权重里,推理强度分 low / medium / high 三档按请求切换。

Mistral 迄今最大的开源权重模型:约 1T 总参数、每 token 激活约 52B(不含嵌入层为 49B)的原生多模态 MoE,输入文字和图片、输出文字,100 万 token 上下文;指令、推理、编程和智能体任务合在一套权重里,推理强度分 low / medium / high 三档按请求切换。

上升分 300 · 点赞 1221 · 下载量 278

理由

  • 官方称 Artificial Analysis 编程智能体指数 48%,与开源领先的 GLM-5.3 基本持平但每个任务平均少用 47% 的 token;Artificial Analysis 智能指数 v5 得 26,是西方开源模型最高,但官方也承认中国的领先开源模型总分更高。
  • 128 个路由专家每 token 激活 4 个外加 1 个共享专家,在 3,800 张 Grace Blackwell GPU 上从零训练;官方称在网络安全、金融、法律和视觉定位上表现突出,支持原生函数调用和严格 JSON Schema 输出,覆盖 160 多种语言。
  • 首发就有 vLLM、SGLang 镜像、Transformers、llama.cpp GGUF,以及 Axolotl、Unsloth、TRL 微调指南,另有面向 Blackwell 的 NVFP4 版;10 月 29 日随抱脸博客发布,此前各期没有收录。上升分 300 只代表关注度。

用法

  • vLLM(官方推荐):docker pull vllm/vllm-openai:mistral-large-4,--tensor-parallel-size 8 --tool-call-parser mistral --reasoning-parser mistral --enable-auto-tool-choice 启动;加 --speculative-config '{"method": "dspark", "num_speculative_tokens": 3}' 开内置 DSpark 推测解码,官方称吞吐最多提高 1.9 倍。
  • SGLang:lmsysorg/sglang:mistral-large-4 镜像,sglang serve --tp-size 8 --speculative-algorithm DSPARK;采样统一用 temperature 1.0、top_p 0.95,复杂和智能体任务 reasoning_effort="high"(默认),日常 medium,快速回复 low。
  • 也能直接调 Mistral API 的 mistral-large-4,或在官方编程代理 Mistral Vibe 里接本地 vLLM。

风险

  • 官方示例按 8 卡张量并行部署,个人设备跑不了;NVFP4 版只面向 Blackwell 显卡。
  • 许可是 Mistral Ecosystem Open-Weight License(改过的 MIT):商用可以,但做模型即服务(MaaS)业务要另签商业许可。
  • 模型卡只给了两个综合指数,其余对比在图片和博客里,均为官方引用的榜单成绩。

打开

Hugging Face Trending

浏览最新 AI 动态