inclusionAI/Ling-3.1-flash-1019

蚂蚁 inclusionAI 对 Ling-3.1-flash 做进一步后训练的升级版:混合线性注意力 MoE(63 层 KDA + 9 层门控 MLA),总参数 560B、每 token 激活 25B,100 万 token 上下文,主打复杂推理和真实场景的多步智能体任务。

蚂蚁 inclusionAI 对 Ling-3.1-flash 做进一步后训练的升级版:混合线性注意力 MoE(63 层 KDA + 9 层门控 MLA),总参数 560B、每 token 激活 25B,100 万 token 上下文,主打复杂推理和真实场景的多步智能体任务。

上升分 79 · 点赞 79 · 下载量 548

理由

  • 官方称相对上一版:AA-Briefcase 从约 1400 升到 1524 Elo,AutomationBench-AA 从 62% 到 68%,CritPt 从 18% 到 26%,SciCode 从 54% 到 57%;Artificial Analysis Intelligence Index v4.3.2 得 44(上一版 41)。
  • 512 个路由专家、每 token 激活 8 个,自带 MTP 推测解码;SGLang 有首发镜像,vLLM 有 ling3 的工具调用和推理解析器,也能在 OpenRouter 上调用。
  • MIT 许可,并公开了训练内容摘要(PDF);10 月 27 日发布,此前各期没有收录。

用法

  • SGLang:docker pull lmsysorg/sglang:dev-ling-3.1-flash,8×H200 用 --tp 8 --ep 8 --speculative-algorithm NEXTN 启动(4×GB300 改 --tp 4 --ep 4),走 OpenAI 兼容接口。
  • vLLM:装 vllm 仓库的 vllm 分支,vllm serve 时加 --tool-call-parser ling3 --reasoning-parser ling3 和 MTP 推测解码;官方推荐 temperature 1.0、top_p 0.95、top_k 20,并开启 enable_thinking。

风险

  • 官方示例要 8 张 H200 级显卡(或 4 张 GB300),个人设备跑不了。
  • 卡里 SGLang 示例的 --model-path 写的是上一版 inclusionAI/Ling-3.1-flash,部署这一版要自己改成 inclusionAI/Ling-3.1-flash-1019。
  • 模型卡只列了升级前后的自身对比,和其他模型的对照只在图片里。

打开

Hugging Face Trending

Explore the latest AI Radar updates