推理强度该选多高?智能体推理强度的经济学(What Effort Level Should I Choose? On the Economics of Reasoning Effort in LLM Agents)

很多模型都提供“推理强度”档位,用户得在不知道多思考有没有用的情况下先选。作者把任务集、提示和智能体外壳固定,只改强度档位,在 8 个闭源和开源模型、4 个基准(AIME 2026、GPQA Diamond、Terminal-Bench 2.1、SWE-Bench Pro)上逐档记录成败、词元用量和花费,衡量每一档的反事实效果。

很多模型都提供“推理强度”档位,用户得在不知道多思考有没有用的情况下先选。作者把任务集、提示和智能体外壳固定,只改强度档位,在 8 个闭源和开源模型、4 个基准(AIME 2026、GPQA Diamond、Terminal-Bench 2.1、SWE-Bench Pro)上逐档记录成败、词元用量和花费,衡量每一档的反事实效果。

点赞 11 · 代码星数 39

理由

  • 高强度不是低强度的超集:总体准确率可能更高,但经常把低档已经做对的题做错。
  • 简单题上严重超支:在所有档位都能解的任务上,最高档的花费最多是最低档的 42 倍(作者称)。
  • 强度改变智能体的做事方式:高档位更频繁地自我验证、更常去搜现成答案而不是直接解题,轨迹变长但结果不一定变。
  • 给出可直接照做的策略:从最低档开始、只在验证失败后升档,在所有模型和基准上持平或优于固定最高档,对多数闭源模型还更便宜。

用法

  • 最直接的用法不用跑代码:给自己的智能体或 API 调用改成“低档起步、验证失败再升档”。
  • 代码:github.com/KaiserWhoLearns/ReasoningEffortLLM(MIT),Python 3.10;各模型的档位定义在 common/models.py、价格在 common/pricing.py,routing/ 里有自选档位和逐级升档的计算。
  • 已有运行结果时 ./make_paper_artifacts.sh 离线重建全部图表,不调用 API;新跑实验需要 OpenAI / Anthropic / Together 的 API Key 和 Docker,每个脚本都有 --dry-run 或 --limit。

风险

  • README 称按论文设置全量复现,基准推理约 7,500 美元、行为标注约 3,900 美元。
  • SWE-Bench Pro 只用了 44 个实例的子集,Terminal-Bench 每题只跑一次;结论绑定于这 8 个模型各自的档位定义和当时价格,换模型要重测。
  • “升档更省钱”只对多数闭源模型成立,不是全部。

打开 · 代码 · 抱脸论文页

Hugging Face Daily Papers

Explore the latest AI Radar updates