В средней школе Кенвуд, расположенной в штате Мэриленд, система безопасности с использованием искусственного интеллекта ошибочно идентифицировала пакет чипсов Doritos в руках ученика как огнестрельное оружие. В результате сигнал тревоги привел к задержанию старшеклассника, которого силой положили на колени, заковали в наручники и обыскали. Лишь после этого выяснилось, что угрозы не существует.
Об этом сообщает Finway
Как произошел инцидент в школе Кенвуд
Инцидент произошел, когда ученик Такі Аллен проходил по коридору с пакетом чипсов в руках. По его словам, он просто вытянул руки вперед, и система распознавания угроз зафиксировала «объект, похожий на пистолет». Сотрудники безопасности мгновенно отреагировали, применив протокол задержания. Директор школы Кэти Смит рассказала, что сигнал тревоги был оперативно отменен службой безопасности, однако она не получила сообщение вовремя и успела вызвать школьного инспектора, который, в свою очередь, сообщил в полицию.
Компания Omnilert заявила, что инцидент «произошел в рамках штатной процедуры».
Реакция компании и дальнейшие действия
В компании Omnilert, которая является разработчиком системы на основе искусственного интеллекта, выразили сожаление по поводу инцидента и поддержку ученику и его семье. При этом представители компании подчеркнули, что система действовала в соответствии с заложенными алгоритмами и предназначена для минимизации человеческих ошибок при выявлении потенциальных угроз. По словам разработчиков, технология постоянно самообучается на новых данных, а подобные случаи помогают совершенствовать алгоритмы распознавания. На сегодняшний день решение Omnilert внедрено более чем в ста учебных заведениях США, где оно уже помогло предотвратить реальные инциденты.
Родители Такі Аллена отметили, что событие вызвало у их сына значительный стресс и поставило под сомнение целесообразность использования подобных технологий в школах. В то же время местное управление образования начало внутреннее расследование, чтобы проверить, насколько корректно сотрудники соблюдали протокол во время этого инцидента.