原题:internlm/Sage-S2.1-Flash
上海人工智能实验室 11 月 15 日上传的科研多模态模型,部署文档称是 320B 总参数、18B 激活的 MoE,采用 GLM-5.3-Flash 架构,BF16 权重约 645 GB。它把科研数据理解和信息检索、编程、工具调用结合起来,能调用专业软件做分析,再按中间结果和画面反馈调整下一步;通过 Sage SciPerception 的投影器,可读入分子图、晶体结构、蛋白质序列和三维结构等十多类科研输入。另有 FP8 版,代码和权重为 MIT 许可。
为什么重要 把十多类科研数据的理解和检索、编程、调用软件放进同一个模型,适合要反复分析和核对的研究流程
上升分 55 · 点赞 55 · 下载量 22
理由
- 官方称在图表列出的 15 项评测、6 个模型中拿到 4 项第一、7 项第二:MLE-bench Lite 90.3(DeepSeek-V4.1-Flash-1017 为 89.2),OfficeQA Pro 72.2、Harvey LAB 25.0、SpreadsheetBench 2 为 37.1
- 科研数据走投影器:分子、晶体、蛋白质等输入先编码,再映射进语言模型的输入空间,可做性质预测、分类、位点定位、定量分析和结构推断
- MIT 许可,抱脸和魔搭都能下载,另提供 FP8 版和 LMDeploy、vLLM、SGLang 三种部署说明
用法
- 通用任务(编程、办公、电脑操作):按 GLM-5.3-Flash 的官方配方装 vLLM 0.33.0、SGLang 0.5.20+ 或 LMDeploy,模型名换成 internlm/Sage-S2.1-Flash,每个引擎都要加 --trust-remote-code;官方示例用 8 张 H200(--tensor-parallel-size 8)
- vLLM 先 hf download internlm/Sage-S2.1-Flash --include "vllm_patch/*" 取补丁并按其 README 打上(修复并行工具调用时图片对错结果的问题);SGLang 要用 --chat-template 指定仓库自带的 chat_template.jinja
- 科研输入:从本仓库下载 projectors/sage-s2.1-flash/,从 internlm/Sage-SciPerception 下载 load_projector.py 和 modeling_projector.py,用投影器生成 prompt_embeds,vLLM 开 --enable-prompt-embeds 后发到 /v1/completions
风险
- 体量大:BF16 约 645 GB,官方示例用 8 张 H200,个人电脑跑不了;H100 / H200 上不支持 FP8 KV 缓存
- 分数都来自官方图表;编程类多项低于对比模型,例如 SWE-bench Pro 60.6、NL2Repo-Bench 57.2,都低于 Claude Opus 5 和 DeepSeek-V4.1-Flash-1017
- 漏加 --trust-remote-code 不会报错,但会把 <tool_call> 等字符串当成控制符,导致提前停止或工具调用出错;vLLM 非流式回复另有已知问题
- 科研输入要另装科学编码器和预处理依赖,流程比普通对话模型复杂;本条未运行