原題:rayline-ai/ARC-1.0
Rayline が 11 月 10 日に公開した適応型ルーティングコントローラー ARC は、Qwen3.5-0.8B を基盤としています。エージェントの対話を読み込み、各モデルの成功確率、トークン使用量(キャッシュなし入力、キャッシュ読み書き、出力)、推論強度の利得、個人機密情報の検出、リクエスト分類などの信号を出力します。アプリケーション側では、これらの信号と自社のモデルプール、価格、ルールを組み合わせて、次のリクエストをどのモデルに割り当てるかを決定します。成功重視の Sage(V=4.5)とコスト重視の Swift(V=0.1)という2つのプリセット戦略が用意されており、効用 = V × 予測成功率 − 期待コストで計算されます。「ローカル優先」の閾値を設定することも可能です。ライセンスは Apache-2.0 です。
なぜ重要か 予測と価格設定戦略が分離されているため、価格変更時に再学習が不要。公式によれば、ローカルモデルとクラウドモデルを混在させた場合、品質はトップクラスのクローズドソースモデルに近く、コストは大幅に削減される
上昇スコア 34 · いいね 42 · ダウンロード数 1786
理由
- 技術レポートによると、ローカルの DeepSeek V4.1 Flash(複数の DGX Spark)とクラウドモデルを混在させ、ローカル優先の閾値を 0.85 に設定した場合、6 個のベンチマークにおいて Opus 5.5 の品質の 97.5% を維持しつつ、コストを 92.9% 削減できる
- ARC Sage を Opus 5.5 のみの使用と比較すると、DeepSWE では 68.7% 対 69.9%、コストは 7% となる。しかし、Tau3 Banking では 33.2% 対 42.8% となり、スコアが顕著に低下する
- 内部の Router Question Bench 3,056 問において、目標回答との一致率は 56.2%、Jev 1.14 は 32.7% である
使い方
- マネージドサービス:docs.rayline.ai に従って既存のプロキシに接続。モデル ID は arc-sage-1.0、arc-swift-1.0
- ローカルでの判断:オープンソースの Rayline CLI で routing.decisions: "local" を設定し、リポジトリ内の gguf/ および runtime/ ディレクトリを読み込む。ルーティング判断は Rayline クラウドには送信されない(ローカルモードはプレビュー版)
- vLLM 0.33.0 にオープンソースの vllm-arc プラグインをインストールするとエンコーダーを提供できるが、ルーティング戦略や判断 API は含まれない。価格は runtime/prices.json にあり、独自のものに置き換えることが可能
リスク
- 評価は同社の技術レポートと内部のベンチマークに基づいている。実際の効果は、利用するモデルプール、価格、リクエストの内容に依存する
- ローカルでの判断はプレビュー版であり、vllm-arc プラグインは 0.1.0 のプレリリース版で、インターフェースが変更される可能性がある。完全な統合には現時点ではマネージド API を利用する必要がある
- カスタムアーキテクチャであり、対応するコードが必要。本項目は実行されていない