Titre original : SPILLWAY: Separating Target Admission from Sanitization to Defend Tool-Using Agents against Prompt Injection
De nombreuses défenses au moment de l’exécution laissent le grand modèle de langage décider s’il faut autoriser une action ; ce modèle peut lire le texte de l’attaquant et ajoute un appel de modèle à chaque étape. L’observation de SPILLWAY est la suivante : la destination de l’action peut être déduite des valeurs de retour typées des outils — l’expéditeur d’un e-mail, le compte d’un paiement se trouvent dans des champs typés, tandis que les instructions injectées sont du texte libre. Sa vérification n’autorise une action que si chaque valeur cible « présente dans la sortie de l’outil mais absente de la tâche utilisateur » provient d’un champ typé d’un outil en lecture seule ou est couverte par des règles de délégation fixes ; un nettoyeur déterministe supprime les fragments ressemblant à des instructions avant que le modèle ne les lise et les conserve comme preuves, et une revue locale facultative ne peut que rétablir les appels refusés, sans autoriser les appels dont la cible se trouve dans le texte supprimé. Les auteurs affirment que, sur trois modèles de base, dont l’un évalué sur sept suites de tâches, aucune injection de modèle standard n’a réussi à orienter les actions vers les cibles de l’attaquant, tout en maintenant la plus haute utilité ; sous un attaquant par apprentissage par renforcement, le taux moyen de réussite des attaques est de .007.
Pourquoi c’est important Les agents capables d’envoyer des e-mails, de modifier des fichiers ou d’effectuer des paiements craignent que des instructions injectées ne détournent leurs données et leur argent ; cette approche ne repose pas sur un grand modèle de langage pour la décision d’autorisation et n’ajoute presque aucun appel de modèle
J’aime 55 · Étoiles du code 2
Raisons
- La vérification d’autorisation est une recherche dans un ensemble, sans appel de modèle ; changer de modèle de base donne les mêmes résultats de refus ; la revue locale ne examine que les appels refusés
- Il est déjà empaqueté en tant que paquet pip spillway-guard, pouvant s’intégrer à LangChain / LangGraph, à l’OpenAI Agents SDK, ou être connecté à n’importe quel hôte MCP via un script proxy
- Le README précise le modèle de menace et les limites, avec des résultats cellule par cellule reproductibles d’AgentDojo
Utilisation
- Code : https://github.com/saintmachines/spillway(Apache-2.0)
- Après pip install spillway-guard, enveloppez la tâche avec Guard(user_task=…), utilisez observe_tool_return pour enregistrer les retours d’outils et check_call pour vérifier chaque appel ; les retours d’outils doivent être déclarés avec des modèles Pydantic, et les adresses comme les destinataires doivent être placées dans des champs déclarés
Risques
- Pour chaque ensemble d’outils, il faut d’abord déclarer quels paramètres sont des cibles ; les noms de paramètres non déclarés ne sont pas vérifiés ; les règles de délégation et la revue sont des points que les attaquants adaptatifs cibleront
- La fuite nulle n’est garantie que dans les conditions de référence définies dans le papier ; le README indique que le taux de réussite des attaques n’est pas nul dans l’évaluation publique PISmith
- Les résultats sont rapportés par les auteurs ; cette entrée n’a pas été exécutée
Ouvrir · Code · Page du papier