원제: Traumatized teens sue school, cops after Doritos bag triggers AI gun alert
Ars Technica에 따르면, 미국 볼티모어 카운티의 고등학생 4명이 AI 총기 식별 시스템 제조업체인 Omnilert, 학군, 학교 관계자 및 카운티 경찰국을 상대로 소송을 제기했다. 2025년 10월, 학교의 Omnilert 시스템이 한 학생이 들고 있던 도리토스 감자칩 봉지를 의심스러운 총기로 표시했다. 학교 측은 2분 만에 CCTV를 확인하고 경보를 취소했으나, 교장은 취소 통지를 놓치고 학교 내 경찰관에게 경찰을 부르도록 지시했다. 최소 6대의 순찰차가 출동했으며, 일부 경찰관은 무기를 들고 학생을 수갑 채워 신체 검색을 실시했다. 소장은 감사관실의 조사 보고서를 인용해 해당 학군에서 발생한此类 경보 중 99% 이상이 오경보였다고 밝혔다. 학생들은 관련 인력이 교육받기 전까지 Omnilert 사용을 금지해 달라고 법원에 요청했다. Omnilert는 소장을 검토 중이라고 밝혔다.
왜 중요한가 AI의 오경보가 인간에 의해 취소된 후에도 경찰이 출동한 이번 소송은 학교가 AI 보안 시스템에 과도하게 의존하고 검증 절차가 부족하다는 점을 지적한다.
신뢰도: 비교적 신뢰할 수 있음 · 출처 Ars Technica · 사건 발생 시간 11-20 04:19 (베이징 시간)
이유
- Ars Technica 보도로, 소장과 감사관실의 조사 보고서를 인용함
용법
- 없음
리스크
- 소장은 원고 측의 주장이며, 법원은 아직 판결을 내리지 않았다.
- 감사관실 조사는 시스템 자체에는 편향이 없으며, 문제는 주로 학교 측 절차에 있다고 판단했다.