原題:Thinking Fast, Anywhere: One System-1 for the Decision Points of Any Agent Workflow
多くのエージェントステップは、既知の選択肢から一つを選ぶだけ(ルーティング、トリアージ、ツール選択、ステータス確認)でありながら、毎回大規模モデルを呼び出している。AnyS1 は、SKILL.md のような人間が作成したプロセススキル自体に「どこで選択を行うか」「どのような選択肢があるか」が明記されているという特徴を利用する。オフラインでは 1,072 個の公開スキルから決定ポイントを抽出し、隔離コンテナ内で実行トレースを実行して実際の状態を収集し、Any-DP データセットを構築する。その後、ラベル平滑化と信頼度キャリブレーションを備えた 4B のポインターモデル(Qwen3.5-4B-Base に LoRA を適用したもの)を訓練する。実行時、スキルは3種類のノードにコンパイルされる。確定的なチェックは Python の判定として直接記述され、列挙可能な選択肢は小規模モデルによる1回のフォワードパスで決定され、信頼度が閾値を下回る場合は大規模モデルに委譲される。オープンエンドな生成は依然として大規模モデルに任される。論文によると、訓練時に見たことのない3つのベンチマークにおいてタスクの信頼性は変わらず、単一のセッションのコストは未コンパイルの大規模モデルエージェントと比較して 75–91% 削減され、モデル呼び出し時間は 63–92% 短縮された。
なぜ重要か エージェントが各ステップで大規模モデルを呼び出すのはコストが高く遅い。この手法ではワークフローごとに個別のフックを書く必要がなく、同じ小規模モデルを未見のスキルに直接適用できる
いいね 5 · コードスター数 2
理由
- README には SOPBench、ALFWorld、WebShop の3つのベンチマークが記載されており、大規模モデルはそれぞれ DeepSeek-V4.1-Flash と GPT-6 Sol に置き換えてテストされている。使用されたのは同じ AnyS1-4B チェックポイントであり、再訓練は行われていない
- 著者によると、小規模モデルによる1回の決定は単一の H100 GPU 上で 22–32 ミリ秒かかる。コールドスタート時の閾値 0.918 はそのまま移行可能であり、約 50 回のラベルなしシャドウ実行によるキャリブレーションも可能である
- 重み smSquirrel/AnyS1-4B とデータセット smSquirrel/SkillDP は公開されており、コードは Apache-2.0 ライセンスである
使い方
- コード:https://github.com/middle-chunjie/AnyS1;pip install -e . でインストールし、ローカルで小規模モデルを実行する場合は ".[train]" を追加してインストールする。python -m anys1.model.serve_s1 --checkpoint smSquirrel/AnyS1-4B --port 8895 でサーバーを起動する
- anys1 compile あなたの SKILL.md -o 出力ディレクトリ:デフォルトでは大規模モデルを3回呼び出して決定ポイントを抽出する(OPENAI_API_KEY が必要)。--offline を追加すると、API を呼び出さない構造化解析に切り替わる。decisions.json、決定フック付きの SKILL.anys1.md、および workflow.py が生成される
- anys1 mcp --compiled 出力ディレクトリ --s1-url http://127.0.0.1:8895/decide を使用して MCP サービスとして Claude Code、Cursor、OpenHands に接続する。anys1 calibrate はシャドウ実行ログを用いて閾値をフィッティングする
リスク
- コスト削減幅の比較対象は「未コンパイル」の大規模モデルエージェントである。README の表によると、スキルをワークフローにコンパイルするだけ(すべて大規模モデルに委譲)でも 56–86% の節約が実現しており、小規模モデルによる追加の節約効果はこれらの差を見る必要がある
- 4B モデルを実行するために GPU を用意する必要がある。結果はすべて著者による報告であり、本記事では実行検証を行っていない
開く · コード · 抱きしめたい論文ページ