pplx-decider v1.3:Perplexity のマルチモーダル分類モデル

Perplexity が 11 月 9 日にアップロードした、v1.2 の次期バージョンで、Qwen3.8-27B をベースとするマルチモーダル分類モデル。1 つのリクエストで、状態(テキスト、JSON、または画像)と複数の質問を受け取り、各質問に対して 4 種類のタイプから 1 つを選択します。choice(1~255 個の選択肢があり、各選択肢の確率を返す)、noul(はい / いいえ、真である確率を返す)、score(2~255 段階のスコアリング、期待値レベルを返す)、そして新たに追加された locate(原文から逐語的な断片を抽出し、文字位置とスコアを付与する)です。語彙全体の出力ではなく、255 行の読み取りヘッドを使用し、全アテンション層は入力に対して双方向に可視です。温度はホールドアウトデータで校正済みで、decision_config.json に保存されています。Apache-2.0。

原题:perplexity-ai/pplx-decider-v1.3

Perplexity が 11 月 9 日にアップロードした、v1.2 の次期バージョンで、Qwen3.8-27B をベースとするマルチモーダル分類モデル。1 つのリクエストで、状態(テキスト、JSON、または画像)と複数の質問を受け取り、各質問に対して 4 種類のタイプから 1 つを選択します。choice(1~255 個の選択肢があり、各選択肢の確率を返す)、noul(はい / いいえ、真である確率を返す)、score(2~255 段階のスコアリング、期待値レベルを返す)、そして新たに追加された locate(原文から逐語的な断片を抽出し、文字位置とスコアを付与する)です。語彙全体の出力ではなく、255 行の読み取りヘッドを使用し、全アテンション層は入力に対して双方向に可視です。温度はホールドアウトデータで校正済みで、decision_config.json に保存されています。Apache-2.0。

なぜ重要か チケットの振り分け、コンテンツモデレーション、ルーティング判断などの大量判定に適しています。確率のみを読み取り、テキストを生成しないため、並べ替えや閾値の設定が容易で、Apache ライセンスです

上昇スコア 27 · いいね 92 · ダウンロード数 1304

理由

  • デフォルトの separate モードでは各質問が個別に計算されるため、他の質問の追加、削除、順序変更は回答に影響しません。isolated モードでは 1 回の読み込みを共有するためより効率的ですが、公式によればサンプルでは 1.5~2.2% の優先回答が変化します
  • fast=True の場合、公式によれば separate モードで約 1.7~1.9 倍、isolated モードで 9~18 倍高速化され、優先回答と参考実装の一致率は 99.4% 以上です
  • 公式は tasksource データセットに謝意を示し、性能向上の大部分はこれによるものだと述べています。トレーニング、評価、およびユースケースは Perplexity のブログに記載されています

使い方

  • Python 3.12 以上、CUDA GPU が必要で、BF16 重みは約 49 GiB で、これに加えワークメモリが必要です。snapshot_download 後、source/src を sys.path に追加し、from pplx_decider import Decider を実行します。pip install ./source でもインストール可能です
  • Decider.from_pretrained(checkpoint, device="cuda") の後に decide({"state": ..., "questions": {...}, "images": [...]}) を呼び出します。並べ替え時には decider.logits() を使用して noul の真偽の差を取得します。これにより、確率が飽和して同率になることを防ぎます
  • locate は画像なしの純粋なテキスト状態を要求し、1 リクエストあたり最大 128 個の質問まで可能です。画像は自動的に 1.6 MP 以内に縮小され、約 1,600 個のトークン位置を占めます。デフォルトの max_length は 32,768 トークンです

リスク

  • カードには「リポジトリはプライベートであり、権限のあるトークンが必要」と記載されていますが、本項目の閲覧時にはリポジトリは公開読み取り可能でした。実際のアクセス権限に基づいて判断してください
  • カードに評価スコアはありません。通常の因果推論ではこのチェックポイントを再現できず、付属のコードを使用する必要があります。v1.1 / v1.2 のプロンプト構成も流用できません
  • 確率値に依存する場合、公式は自社のトラフィックで再校正することを推奨しており、単一の温度ではすべてのタスクに対応できません。本項目は実行されていません

開く

Hugging Face Trending

最新の AI ニュースを見る