Qwen3.8-27B-pi:pi プログラミングエージェント向けに強化学習で訓練された LoRA

harness-hub が 11 月 16 日にアップロードした LoRA アダプター(r=32)。ベースモデルは Qwen/Qwen3.8-27B で、TRL の AsyncGRPO を用いた強化学習により、pi プログラミングエージェントのバックエンドとしてソフトウェアエンジニアリングおよびターミナルタスクを実行するように訓練されました。訓練タスクは scale800(750 件)と TermGrade(300 件)から取得され、報酬にはタスクバリデーターによる正解率に加え、ツール使用効率のスコアが少し含まれています。このリポジトリは第 160 ステップのチェックポイントです。ライセンスは Apache-2.0 で、GGUF 版のアダプターも提供されています。

原題:harness-hub/Qwen3.8-27B-pi-adapted

harness-hub が 11 月 16 日にアップロードした LoRA アダプター(r=32)。ベースモデルは Qwen/Qwen3.8-27B で、TRL の AsyncGRPO を用いた強化学習により、pi プログラミングエージェントのバックエンドとしてソフトウェアエンジニアリングおよびターミナルタスクを実行するように訓練されました。訓練タスクは scale800(750 件)と TermGrade(300 件)から取得され、報酬にはタスクバリデーターによる正解率に加え、ツール使用効率のスコアが少し含まれています。このリポジトリは第 160 ステップのチェックポイントです。ライセンスは Apache-2.0 で、GGUF 版のアダプターも提供されています。

なぜ重要か 公式によれば、同じタスクにおける通過率が顕著に向上し、ツール呼び出し回数は半分以上減少しました。訓練レシピが公開されているため、他のエージェントフレームワーク向けにもアダプターを訓練することが可能です。

上昇スコア 132 · いいね数 133 · ダウンロード数 0

理由

  • 公式では、pi の下で各問題につき1回実行し、温度を 0.8 に設定した場合、Terminal-Bench 2.1 が 39.5% から 55.8% に向上し、各問題あたりのツール呼び出し回数が 62% 減少したとされています。また、SWE-bench Pro で最も難しい 51 問では、スコアが 29.4% から 62.7% に向上し、ツール呼び出し回数が 55% 減少しました。
  • カードには、ペア比較の信頼区間と符号検定が含まれており、チェックポイント選択に使用されなかった Terminal-Bench の 68 問(39.7% → 55.9%)も個別に記載されています。
  • 使用方法としては、vLLM での LoRA マウント、transformers serve、llama.cpp への GGUF アダプター追加、macOS 上の Llama.app、および PEFT を用いた完全なモデルへのマージ(BF16 で約 54 GB)がカバーされています。

使用方法

  • vLLM:vllm serve Qwen/Qwen3.8-27B --enable-lora --max-lora-rank 32 --lora-modules qwen3.8-pi=harness-hub/Qwen3.8-27B-pi-adapted を実行し、さらに --mamba-cache-mode align(これを指定しないと各ターンで全履歴を再読み込みします)と --tool-call-parser qwen3\_xml を追加して、思考モードを無効にしてください。
  • pi(Node.js 22.19 以上):npm で @earendil-works/pi-coding-agent をインストールし、~/.pi/agent/models.json にローカルサービスを追加します。この際、api は必ず openai-completions に設定してください(アダプターは Responses API では訓練されていません)。
  • ローカル実行:llama.cpp を使用する場合、Qwen3.8-27B の Q8_0 GGUF モデルに、harness-hub/Qwen3.8-27B-pi-GGUF にある F16 アダプターを適用します。ベースモデルの量子化ビット数が低いほど、訓練時の性能から乖離します。

リスク

  • モデルカードに記載されているコマンドのリポジトリ名は harness-hub/Qwen3.8-27B-pi ですが、本項目を確認した時点ではこの URL にアクセスできませんでした。実際には本リポジトリ名である harness-hub/Qwen3.8-27B-pi-adapted を使用する必要があります。
  • 訓練および評価は pi フレームワーク下で思考モードを無効にした設定でのみ行われており、他のエージェントフレームワークへの変更や思考モードの有効化に関するデータはありません。また、GGUF 版については再評価が行われていません。
  • 訓練は計画されていた 1000 ステップのうち第 191 ステップで停止し、第 160 ステップが選択されました。選択時には SWE-bench Pro のスコアを確認しており、この項目の向上幅は楽観的な見積もりである可能性があります。本項目では実行検証を行っていません。

開く

Hugging Face Trending

最新の AI ニュースを見る