Titre original : Traumatized teens sue school, cops after Doritos bag triggers AI gun alert
Selon Ars Technica, quatre lycéens du comté de Baltimore, aux États-Unis, ont intenté une action en justice contre Omnilert, le fournisseur du système de reconnaissance d'armes à feu par IA, le district scolaire, le personnel de l'établissement et la police du comté. En 10 2025, le système Omnilert de l'école a signalé un sachet de chips Doritos tenu par un élève comme une arme à feu suspecte. L'administration scolaire a visionné la vidéosurveillance et a annulé l'alerte en moins de deux minutes, mais le directeur n'a pas remarqué l'annulation et a tout de même demandé à l'agent de police présent dans l'établissement d'appeler la police. Au moins six voitures de police sont arrivées sur les lieux, et certains agents, armes au poing, ont menotté l'élève et l'ont fouillé. La plainte cite un rapport d'enquête du Bureau de l'Inspecteur général indiquant que plus de 99% de ce type d'alertes dans le district étaient des fausses alertes ; les étudiants demandent au tribunal d'interdire au district d'utiliser Omnilert tant que le personnel concerné n'aura pas reçu de formation. Omnilert a déclaré être en train d'examiner la plainte.
Pourquoi c'est important Une fausse alerte par IA, même annulée par un humain, a entraîné une intervention policière ; la poursuite judiciaire met en lumière la dépendance excessive des écoles à la sécurité par IA et le manque de procédures de vérification.
Fiabilité : Assez fiable · Source Ars Technica · Date de l'incident 11-20 04:19 (heure de Pékin)
Raisons
- Reportage d'Ars Technica, citant la plainte et le rapport d'enquête du Bureau de l'Inspecteur général
Utilisation
- Aucune
Risques
- La plainte reflète la version des plaignants, et le tribunal n'a pas encore rendu de décision
- L'enquête de l'Inspecteur général estime que le système lui-même n'est pas biaisé, le problème résidant principalement dans les procédures de l'établissement scolaire