原题:Thinking Fast, Anywhere: One System-1 for the Decision Points of Any Agent Workflow
很多智能体步骤只是在几个已知选项里挑一个(路由、分诊、选工具、查状态),却每次都调用大模型。AnyS1 利用 SKILL.md 这类人写的流程技能本身就写明了“在哪里做选择、有哪些选项”的特点:离线从 1,072 个公开技能里挖出决策点,在隔离容器里执行轨迹、收集真实状态,构建 Any-DP 数据集,训练一个带标签平滑、置信度经过校准的 4B 指针模型(基于 Qwen3.5-4B-Base 加 LoRA)。运行时把技能编译成三类节点:确定性检查直接写成 Python 判断,可枚举选择由小模型一次前向决定、置信度低于阈值就交回大模型,开放式生成仍交给大模型。论文称在三个训练时没见过的基准上任务可靠性不变,单局成本比未编译的大模型智能体降 75–91%,模型调用时间降 63–92%。
为什么重要 智能体每一步都调大模型又贵又慢;它不用给每个工作流单独写钩子,同一个小模型可直接用在没见过的技能上
点赞 5 · 代码星数 2
理由
- README 列出三个基准为 SOPBench、ALFWorld、WebShop,大模型分别换成 DeepSeek-V4.1-Flash 和 GPT-6 Sol 测试,用的是同一个 AnyS1-4B 检查点、没有重训
- 作者称小模型一次决策在单张 H100 上 22–32 毫秒;冷启动阈值 0.918 可直接迁移,也可以用约 50 次无标注的影子运行校准
- 权重 smSquirrel/AnyS1-4B 和数据集 smSquirrel/SkillDP 已放出,代码 Apache-2.0
用法
- 代码:https://github.com/middle-chunjie/AnyS1;pip install -e . 安装,本地跑小模型再装 ".[train]",用 python -m anys1.model.serve_s1 --checkpoint smSquirrel/AnyS1-4B --port 8895 起服务
- anys1 compile 你的 SKILL.md -o 输出目录:默认调三次大模型抽取决策点(要 OPENAI_API_KEY),加 --offline 改用不调接口的结构解析;产出 decisions.json、带决策钩子的 SKILL.anys1.md 和 workflow.py
- anys1 mcp --compiled 输出目录 --s1-url http://127.0.0.1:8895/decide 作为 MCP 服务接入 Claude Code、Cursor、OpenHands;anys1 calibrate 用影子运行日志拟合阈值
风险
- 降本幅度的对照是“未编译”的大模型智能体;README 表格显示仅把技能编译成工作流(全部仍交大模型)就已省下 56–86%,小模型带来的额外节省要看这两者之差
- 要自备一张显卡跑 4B 模型;成绩都是作者报告,本条未运行