Titre original : Researcher plants 2m canaries into the AI supply chain. A privacy disaster surfaced.
Selon Ars Technica, HD Moore, directeur de la recherche chez la société de sécurité Dragos, a envoyé près de 200 000 prompts, chacun contenant un « leurre » unique (clés d'un compte AWS vide, mots de passe SSH, liens privés et adresses de dépôts Git), chaque leurre n'étant envoyé qu'à un seul fournisseur, puis a vérifié lesquels étaient utilisés ailleurs. Les résultats ont montré qu'au moins trois hébergeurs de modèles ont été compromis, les attaquants dupliquant les requêtes à l'entrée, les clés AWS volées ayant été appelées des dizaines de milliers de fois ; certains revendeurs ont attiré le trafic avec des prix bas avant d'activer la journalisation, diffusant les prompts à d'autres ; d'autres fournisseurs ont ignoré les balises « zéro rétention de données » et « pas de collecte de données », capturant les liens privés contenus dans les prompts. Moore recommande de privilégier le déploiement auto-hébergé, ou d'acheter directement auprès des fournisseurs de premier rang, en spécifiant soi-même le fournisseur en amont, sans utiliser les pools de revente par défaut.
Pourquoi c'est important Lors de l'appel de modèles via des routeurs IA et des revendeurs, les clés et les données de confidentialité contenues dans les prompts peuvent être enregistrées ou volées, et les paramètres de zéro rétention de données ne sont pas nécessairement respectés.
Fiabilité : Assez fiable · Source Ars Technica · Date de l'événement 11-21 04:59 (heure de Pékin)
Raisons
- Couvert par Ars Technica, citant l'article de recherche public de Moore
- Concerne directement les développeurs appelant des modèles via des routeurs comme OpenRouter ou Vercel
Utilisation
- Lors de l'appel de modèles via des plateformes de routage, spécifiez vous-même le fournisseur en amont ; ne placez pas de vraies clés dans les prompts
Risques
- Le reportage d'Ars Technica ne nomme pas les fournisseurs impliqués