У середній школі Кенвуд, що знаходиться в штаті Мериленд, система безпеки з використанням штучного інтелекту помилково ідентифікувала пакет чипсів Doritos у руках учня як вогнепальну зброю. Через це сигнал тривоги призвів до затримання старшокласника, якого силоміць поклали на коліна, закували в кайданки та обшукали. Лише після цього з’ясувалося, що загрози не існує.
Про це розповідає Finway
Як стався інцидент у школі Кенвуд
Інцидент трапився, коли учень Такі Аллен проходив коридором із пакетом чипсів у руках. За його словами, він просто витягнув руки вперед, і система розпізнавання загроз зафіксувала “об’єкт, схожий на пістолет”. Працівники безпеки миттєво відреагували, застосувавши протокол затримання. Директорка школи Кеті Сміт розповіла, що сигнал тривоги було оперативно скасовано службою безпеки, однак вона не отримала повідомлення вчасно й встигла викликати шкільного інспектора, який, своєю чергою, повідомив поліцію.
Компанія Omnilert заявила, що інцидент «стався в рамках штатної процедури».
Реакція компанії та подальші дії
У компанії Omnilert, яка є розробником системи на основі штучного інтелекту, висловили жаль щодо інциденту та підтримку учневі й його родині. При цьому представники компанії підкреслили, що система діяла відповідно до закладених алгоритмів та призначена для мінімізації людських помилок при виявленні потенційних загроз. За словами розробників, технологія постійно самонавчається на нових даних, а подібні випадки допомагають удосконалювати алгоритми розпізнавання. На сьогодні рішення Omnilert впроваджено більш ніж у сотні навчальних закладів США, де вони вже допомогли запобігти реальним інцидентам.
Батьки Такі Аллена відзначили, що подія спричинила у їхнього сина значний стрес і поставила під сумнів доцільність використання подібних технологій у школах. Водночас місцеве управління освіти розпочало внутрішнє розслідування, щоб перевірити, наскільки коректно співробітники дотримувалися протоколу під час цього інциденту.