Mistral Large 4:万亿参数开放权重多模态 MoE

Mistral AI 迄今最大的模型(昵称 Le Chonk),官方博客 10 月 29 日宣布以开放权重发布:原生多模态 MoE,总参数约 1 万亿,每 token 激活 490 亿(含嵌入和输出层为 520 亿),128 个路由专家每次激活 4 个,上下文 100 万 token,可输入文字和图片。指令、推理、编程和智能体共用一套权重,推理强度分 low / medium / high 三档按请求切换,支持函数调用和严格 JSON Schema 输出。官方称在 Artificial Analysis 编程智能体指数上得 48%,与 GLM-5.3 基本持平,平均每任务少用 47% 的 token;智能指数 v5 得 26 分,是西方开放权重模型里最高,但低于领先的中国开源模型。检查点内置 DSpark 投机解码草稿头,官方称吞吐最高提升 1.9 倍。

原题:mistralai/Mistral-Large-4-1T-A52B

Mistral AI 迄今最大的模型(昵称 Le Chonk),官方博客 10 月 29 日宣布以开放权重发布:原生多模态 MoE,总参数约 1 万亿,每 token 激活 490 亿(含嵌入和输出层为 520 亿),128 个路由专家每次激活 4 个,上下文 100 万 token,可输入文字和图片。指令、推理、编程和智能体共用一套权重,推理强度分 low / medium / high 三档按请求切换,支持函数调用和严格 JSON Schema 输出。官方称在 Artificial Analysis 编程智能体指数上得 48%,与 GLM-5.3 基本持平,平均每任务少用 47% 的 token;智能指数 v5 得 26 分,是西方开放权重模型里最高,但低于领先的中国开源模型。检查点内置 DSpark 投机解码草稿头,官方称吞吐最高提升 1.9 倍。

为什么重要 少见的西方万亿级开放权重模型,官方称编程智能体任务成绩与领先开源模型持平、token 用量更少

上升分 78 · 点赞 1646 · 下载量 12541

理由

  • 开放权重里少有的万亿参数级通用模型,一套权重覆盖看图、推理、编程智能体和工具调用
  • 官方称在网络安全、金融、法律类任务和视觉定位上表现突出,支持 160 多种语言
  • vLLM、SGLang、transformers、llama.cpp 首发即支持,Axolotl、Unsloth、TRL 可微调,另有面向 Blackwell 的 NVFP4 量化版

用法

  • vLLM:用官方镜像 vllm/vllm-openai:mistral-large-4,8 卡张量并行,加 --tool-call-parser mistral --reasoning-parser mistral;加 --speculative-config 开启 DSpark 投机解码
  • 官方推荐 temperature 1.0、top_p 0.95;复杂任务和智能体用 reasoning_effort=high,日常用 medium,快速聊天用 low
  • 不自部署可调用 Mistral API 的 mistral-large-4,或配合官方开源编程助手 Mistral Vibe 使用

风险

  • 许可为 Mistral Ecosystem Open-Weight License(改版 MIT),可商用,但经营模型即服务业务需另签商业许可
  • 示例部署要 8 卡节点,个人设备无法运行
  • 成绩来自官方引用的 Artificial Analysis 指数和官方博客
  • 本条未运行,效果以模型卡为准

打开

Hugging Face Trending

浏览最新 AI 动态