AI銃器警報がポテトチップスの袋を銃と誤認、米国の学生が学校と警察を提訴

Ars Technicaによると、米国メリーランド州ボルチモア郡の高校生4名が、AI銃器識別システムのメーカーOmnilert、学区、学校関係者、および郡警察署を提訴した。2025年10月、学校のOmnilertシステムが、ある生徒が持っていたドリアスのポテトチップスの袋を銃器の疑いありとして検知した。学校側は2分以内に監視カメラ映像を確認して警報を取り消したが、校長は取り消し通知に気づかず、校内警察官に警察を呼ぶよう指示した。結果として少なくとも6台のパトカーが到着し、一部の警官は銃を構えたまま生徒を手錠で拘束し、身体検査を行った。訴状は監察長官室の調査報告書を引用し、同学区における此类の警報の99%以上が誤報であったことを指摘している。学生側は、関係者が適切な訓練を受けるまで、学区によるOmnilertの使用を禁止するよう裁判所に求めている。Omnilertは訴状を検討中だと述べている。

原題:Traumatized teens sue school, cops after Doritos bag triggers AI gun alert

Ars Technicaによると、米国メリーランド州ボルチモア郡の高校生4名が、AI銃器識別システムのメーカーOmnilert、学区、学校関係者、および郡警察署を提訴した。2025年10月、学校のOmnilertシステムが、ある生徒が持っていたドリアスのポテトチップスの袋を銃器の疑いありとして検知した。学校側は2分以内に監視カメラ映像を確認して警報を取り消したが、校長は取り消し通知に気づかず、校内警察官に警察を呼ぶよう指示した。結果として少なくとも6台のパトカーが到着し、一部の警官は銃を構えたまま生徒を手錠で拘束し、身体検査を行った。訴状は監察長官室の調査報告書を引用し、同学区における此类の警報の99%以上が誤報であったことを指摘している。学生側は、関係者が適切な訓練を受けるまで、学区によるOmnilertの使用を禁止するよう裁判所に求めている。Omnilertは訴状を検討中だと述べている。

なぜ重要か AIの誤報が人間によって取り消された後も警察が呼ばれたことで、訴訟は学校におけるAIセキュリティへの過度な依存と、検証プロセスの欠如を浮き彫りにしている。

信頼性:比較的高い · 出典 Ars Technica · 事象の発生時期 11-20 04:19(北京時間)

理由

  • Ars Technicaの報道で、訴状および監察長官室の調査報告書を引用している

利用法

  • なし

リスク

  • 訴状は原告側の主張であり、裁判所はまだ判断を下していない
  • 監察長官の調査では、システム自体にバイアスはなく、問題は主に学校側のプロセスにあるとされている

開く

Ars Technica

最新の AI ニュースを見る