pplx-decider v1.3 : Le modèle de classification multimodale de Perplexity

Téléchargé par Perplexity le 9 11, la version suivante de v1.2, un modèle de classification multimodale basé sur Qwen3.8-27B. Une requête fournit un état (texte, JSON ou image) et plusieurs questions, chaque question étant de l'un des quatre types : choice (1–255 options, renvoie les probabilités de chaque option), noul (oui / non, renvoie la probabilité que ce soit vrai), score (notation sur une échelle de 2 à 255, renvoie le niveau attendu) et le nouveau type locate (extrait des fragments verbatim du texte original, avec positions de caractères et scores). Il n'utilise pas une sortie sur l'ensemble du vocabulaire, mais une tête de lecture de 255 lignes, avec des couches d'attention entièrement bidirectionnelles par rapport à l'entrée ; la température est calibrée sur des données de validation, et un fichier decision_config.json est présent. Licence Apache-2.0.

Titre original : perplexity-ai/pplx-decider-v1.3

Téléchargé par Perplexity le 9 11, la version suivante de v1.2, un modèle de classification multimodale basé sur Qwen3.8-27B. Une requête fournit un état (texte, JSON ou image) et plusieurs questions, chaque question étant de l'un des quatre types : choice (1–255 options, renvoie les probabilités de chaque option), noul (oui / non, renvoie la probabilité que ce soit vrai), score (notation sur une échelle de 2 à 255, renvoie le niveau attendu) et le nouveau type locate (extrait des fragments verbatim du texte original, avec positions de caractères et scores). Il n'utilise pas une sortie sur l'ensemble du vocabulaire, mais une tête de lecture de 255 lignes, avec des couches d'attention entièrement bidirectionnelles par rapport à l'entrée ; la température est calibrée sur des données de validation, et un fichier decision_config.json est présent. Licence Apache-2.0.

Pourquoi c'est important Convient au tri des tickets, à la modération de contenu et aux décisions de routage à grande échelle ; ne génère que des probabilités sans produire de texte, ce qui facilite le classement et la définition de seuils, sous licence Apache

Score de progression 27 · J'aime 92 · Téléchargements 1304

Raisons

  • En mode separate par défaut, chaque question est calculée individuellement ; ajouter, supprimer ou réorganiser d'autres questions n'affecte pas les réponses ; le mode isolated partage une seule lecture pour plus d'efficacité, et selon les données officielles, les réponses préférées changent pour 1.5–2.2% des échantillons
  • Avec fast=True, les données officielles indiquent que le mode separate est environ 1.7–1.9 fois plus rapide et le mode isolated 9–18 fois plus rapide, avec un taux de concordance des réponses préférées avec l'implémentation de référence supérieur à 99.4%
  • Les remerciements officiels mentionnent le jeu de données tasksource, indiquant que la plupart des améliorations proviennent de celui-ci ; l'entraînement, l'évaluation et les cas d'utilisation sont décrits dans le blog de Perplexity

Utilisation

  • Python 3.12+, GPU CUDA, poids BF16 d'environ 49 GiB plus la mémoire de travail ; après snapshot_download, ajoutez source/src à sys.path, puis from pplx_decider import Decider ; vous pouvez également faire pip install ./source
  • Après Decider.from_pretrained(checkpoint, device="cuda"), appelez decide({"state": ..., "questions": {...}, "images": [...]}) ; pour le classement, utilisez decider.logits() pour obtenir la différence entre vrai et faux pour noul, les probabilités ne saturent pas en égalités
  • locate exige un état en texte pur, sans images, avec un maximum de 128 questions par requête ; les images sont automatiquement réduites à moins de 1.6 MP, occupant environ 1,600 positions ; max_length par défaut est de 32,768 tokens

Risques

  • La fiche indique « le dépôt est privé, un token avec les permissions nécessaires est requis », mais lors de la consultation de cette entrée, le dépôt était publiquement accessible en lecture ; se fier à l'accès réel
  • La fiche ne contient pas de scores d'évaluation ; l'inférence causale standard ne peut pas reproduire ce checkpoint, il faut utiliser le code fourni, et la construction des prompts pour v1.1 / v1.2 ne peut pas être réutilisée
  • Si vous dépendez des valeurs de probabilité, les recommandations officielles suggèrent de recalibrer avec votre propre trafic, car une température unique ne convient pas à toutes les tâches. Cette entrée n'a pas été exécutée

Ouvrir

Hugging Face Trending

Parcourir les dernières actualités IA