В США программное обеспечение для распознавания лиц на основе искусственного интеллекта привело к незаконному заключению жительницы Теннесси, которую ошибочно идентифицировали как подозреваемую в банковском мошенничестве.
Об этом сообщает Finway
История Анджелы Липпс: как технологическая ошибка изменила жизнь
50-летняя Анджела Липпс из Теннесси едва не стала жертвой серьезной судебной ошибки. Она провела почти шесть месяцев под арестом после того, как полиция города Фарго (Северная Дакота) использовала систему распознавания лиц для расследования банковского мошенничества. Программное обеспечение ошибочно определило Липпс как подозреваемую, хотя она не находилась в штате, где произошло преступление.
Пострадавшая — мать троих детей и бабушка пятерых внуков, всю жизнь прожила в северо-центральной части Теннесси и никогда не летала на самолете. В июле судебные маршалы задержали Анджелу дома во время ухода за детьми. С оружием ее взяли под стражу и отправили в окружную тюрьму как вероятную беглянку из Северной Дакоты.
«Женщина провела почти четыре месяца в тюрьме Теннесси без возможности внести залог, ожидая экстрадиции. Ей выдвинули обвинения по нескольким эпизодам несанкционированного использования персональных данных и кражи».
Расследование и последствия ошибки ИИ
Полиция Фарго проанализировала видеозаписи с камер наблюдения, на которых женщина с поддельным удостоверением личности снимала десятки тысяч долларов с счетов. Программное обеспечение для распознавания лиц указало на Липпс из-за сходства черт лица, телосложения и прически. Однако адвокат Анджелы смог доказать ее невиновность, предоставив банковские выписки, которые подтвердили: в момент преступления женщина находилась в Теннесси, более чем за 1200 миль от места событий.
После этого Липпс освободили накануне Рождества. Однако, как сообщает женщина, полиция не извинилась перед ней, а из-за длительного содержания под стражей она потеряла дом, автомобиль и домашнего питомца.
Этот инцидент не является единичным в США. Известны и другие случаи, когда алгоритмы распознавания лиц ошибались. Например, в Мэриленде система безопасности восприняла пакет чипсов за оружие и спровоцировала арест школьника.
Случай Анджелы Липпс поднимает вопросы безопасности применения технологий искусственного интеллекта в правоохранительной сфере и указывает на необходимость усовершенствования механизмов верификации результатов автоматизированных систем.