Cảnh báo súng bằng AI nhầm túi snack Doritos thành súng, học sinh Mỹ khởi kiện trường học và cảnh sát

Theo Ars Technica, bốn học sinh trung học tại Quận Baltimore, Mỹ, đã khởi kiện Omnilert – nhà cung cấp hệ thống nhận diện súng bằng AI – cùng với khu học chánh, nhân viên nhà trường và sở cảnh sát quận. Vào tháng 10 năm 2025, hệ thống Omnilert của trường đã đánh dấu túi snack Doritos mà một học sinh cầm trên tay là nghi có súng. Nhà trường đã xem lại camera giám sát và hủy cảnh báo trong vòng hai phút, nhưng hiệu trưởng không nhận thấy thông báo hủy này, vẫn yêu cầu sĩ quan cảnh sát tại trường gọi cảnh sát. Ít nhất sáu xe cảnh sát đã đến nơi, một số cảnh sát đã rút súng, còng tay và khám xét thân thể học sinh. Đơn khởi kiện dẫn báo cáo điều tra của Văn phòng Tổng thanh tra cho biết hơn 99% các cảnh báo loại này trong khu học chánh là báo động giả; các học sinh yêu cầu tòa án cấm khu học chánh sử dụng Omnilert cho đến khi những người liên quan được đào tạo. Omnilert cho biết đang xem xét đơn khởi kiện.

Tiêu đề gốc: Traumatized teens sue school, cops after Doritos bag triggers AI gun alert

Theo Ars Technica, bốn học sinh trung học tại Quận Baltimore, Mỹ, đã khởi kiện Omnilert – nhà cung cấp hệ thống nhận diện súng bằng AI – cùng với khu học chánh, nhân viên nhà trường và sở cảnh sát quận. Vào tháng 10 năm 2025, hệ thống Omnilert của trường đã đánh dấu túi snack Doritos mà một học sinh cầm trên tay là nghi có súng. Nhà trường đã xem lại camera giám sát và hủy cảnh báo trong vòng hai phút, nhưng hiệu trưởng không nhận thấy thông báo hủy này, vẫn yêu cầu sĩ quan cảnh sát tại trường gọi cảnh sát. Ít nhất sáu xe cảnh sát đã đến nơi, một số cảnh sát đã rút súng, còng tay và khám xét thân thể học sinh. Đơn khởi kiện dẫn báo cáo điều tra của Văn phòng Tổng thanh tra cho biết hơn 99% các cảnh báo loại này trong khu học chánh là báo động giả; các học sinh yêu cầu tòa án cấm khu học chánh sử dụng Omnilert cho đến khi những người liên quan được đào tạo. Omnilert cho biết đang xem xét đơn khởi kiện.

Tại sao quan trọng Việc cảnh báo giả do AI vẫn dẫn đến sự can thiệp của cảnh sát ngay cả sau khi được con người hủy bỏ cho thấy vụ kiện nhắm vào sự phụ thuộc quá mức của trường học vào an ninh AI và thiếu các quy trình xác minh.

Độ tin cậy: Khá đáng tin · Nguồn Ars Technica · Thời gian sự kiện 11-20 04:19 (giờ Bắc Kinh)

Lý do

  • Ars Technica đưa tin, dẫn chứng từ đơn khởi kiện và báo cáo điều tra của Văn phòng Tổng thanh tra

Cách sử dụng

  • Không có

Rủi ro

  • Đơn khởi kiện là lời khai từ phía nguyên đơn, tòa án vẫn chưa ra phán quyết
  • Cuộc điều tra của Tổng thanh tra cho rằng bản thân hệ thống không có thiên kiến, vấn đề chủ yếu nằm ở quy trình của nhà trường

Mở

Ars Technica

Xem tin AI mới nhất