ИИ-система обнаружения оружия приняла пакет чипсов за пистолет: американские студенты подали в суд на школу и полицию

По данным Ars Technica, четыре старшеклассника из округа Балтимор (США) подали иск против производителя системы распознавания оружия на базе ИИ Omnilert, школьного округа, сотрудников администрации школы и полицейского управления округа. 2025 года в 10 месяце система Omnilert в школе распознала пакет чипсов Doritos, который держал один из учеников, как предполагаемое оружие. Администрация просмотрела записи с камер наблюдения и отменила тревогу в течение двух минут, однако директор не заметил уведомления об отмене и по-прежнему поручил школьному офицеру полиции вызвать наряд. На место прибыли как минимум шесть патрульных машин; некоторые полицейские, направив оружие, задержали учеников и провели личный досмотр. В исковом заявлении со ссылкой на отчет инспектора приводятся данные о том, что более 99% подобных тревог в этом школьном округе оказались ложными; студенты требуют от суда запретить округу использовать Omnilert до тех пор, пока соответствующие сотрудники не пройдут обучение. Компания Omnilert заявила, что изучает исковое заявление.

Оригинальное название: Traumatized teens sue school, cops after Doritos bag triggers AI gun alert

По данным Ars Technica, четыре старшеклассника из округа Балтимор (США) подали иск против производителя системы распознавания оружия на базе ИИ Omnilert, школьного округа, сотрудников администрации школы и полицейского управления округа. 2025 года в 10 месяце система Omnilert в школе распознала пакет чипсов Doritos, который держал один из учеников, как предполагаемое оружие. Администрация просмотрела записи с камер наблюдения и отменила тревогу в течение двух минут, однако директор не заметил уведомления об отмене и по-прежнему поручил школьному офицеру полиции вызвать наряд. На место прибыли как минимум шесть патрульных машин; некоторые полицейские, направив оружие, задержали учеников и провели личный досмотр. В исковом заявлении со ссылкой на отчет инспектора приводятся данные о том, что более 99% подобных тревог в этом школьном округе оказались ложными; студенты требуют от суда запретить округу использовать Omnilert до тех пор, пока соответствующие сотрудники не пройдут обучение. Компания Omnilert заявила, что изучает исковое заявление.

Почему это важно Ложные срабатывания ИИ, даже после ручной отмены, приводят к прибытию полиции; иск указывает на чрезмерную зависимость школ от систем безопасности на базе ИИ и отсутствие процедур проверки.

Достоверность: достаточно достоверно · Источник Ars Technica · Время события 11-20 04:19 (пекинское время)

Обоснование

  • Репортаж Ars Technica, ссылки на исковое заявление и отчет инспектора

Использование

  • Нет

Риски

  • Исковое заявление представляет собой версию истцов, суд еще не вынес решения
  • Расследование инспектора показало, что сама система не содержит предвзятости, а проблема заключается преимущественно в процессах администрации школы

Открыть

Ars Technica

Открыть последние новости ИИ