SenseNova-Loop-9B:中间层跑两遍的多模态小模型

SenseNova 团队 11 月 17 日上传的正式版(10 月 31 日先发过 Preview)。模型卡称约 9B 参数:32 层解码器里第 4–27 层共享权重、每次前向跑两遍,合计 56 层计算(官方折算约 14.6B 推理当量),配合双残差流 mHC,以及每 4 层 3 层线性注意力加 1 层全注意力的混合结构。输入文字和图片、输出文字,上下文 512K,面向复杂推理、编程、工具调用和多模态任务。Apache-2.0 许可。

原题:sensenova/SenseNova-Loop-9B

SenseNova 团队 11 月 17 日上传的正式版(10 月 31 日先发过 Preview)。模型卡称约 9B 参数:32 层解码器里第 4–27 层共享权重、每次前向跑两遍,合计 56 层计算(官方折算约 14.6B 推理当量),配合双残差流 mHC,以及每 4 层 3 层线性注意力加 1 层全注意力的混合结构。输入文字和图片、输出文字,上下文 512K,面向复杂推理、编程、工具调用和多模态任务。Apache-2.0 许可。

为什么重要 官方称智能体和数据分析评测接近三倍体量的 Qwen 模型,四位量化后显存需求降到十几 GB

上升分 185 · 点赞 188 · 下载量 0

理由

  • 官方称正式版在图中 7 项评测都高于 Preview:AutomationBench 14.33 → 36.67、Terminal-Bench 2.1 40.45 → 59.55、GAIA 37.86 → 69.90;和 Qwen3.8-27B 比,AIDABench 65.31 对 65.01、NL2Repo 41.36 对 44.60
  • 官方估算显存:4 位权重约 4.9 GB,加 8 位 KV 缓存时 64K / 128K / 256K 上下文约需 10 / 12 / 15 GiB
  • 官方做了循环次数实验:1 到 4 圈里 3–4 圈分数最好,为兼顾速度默认 2 圈;卡里有网页、SVG、海报、3D 场景的生成示例动图

用法

  • Transformers 5.18.0:AutoTokenizer、AutoModelForCausalLM 都加 trust_remote_code=True,dtype 用 bfloat16;apply_chat_template 里 enable_thinking=True 开思考,设 False 关闭
  • 服务部署:LightLLM 官方镜像(示例 --tp 4)提供 OpenAI 兼容接口;vLLM、SGLang 要拉取尚未合并的 PR(vLLM #64832、SGLang #47281)自行安装
  • 支持 MTP 推测解码,草稿模型训练脚本在 GitHub OpenSenseNova/SenseSpec;微调示例在 OpenSenseNova/torchtitan

风险

  • 下载权重要登录抱脸并同意访问条款(自动通过);部署命令沿用 Preview 版,官方说正式版的引擎版本和配置之后再更新
  • 卡里称首日提供官方 AWQ 4 位版,本条查看时 sensenova 名下公开列表里还没有;显存数字是官方估算
  • 官方列出的短板:工具定义多、约束多时会漏要求,编程和长链智能体任务不稳定,复杂 3D / 动画网页要两三轮修改;分数都来自官方图表,本条未运行

打开

Hugging Face Trending

浏览最新 AI 动态