Новости Software

Ошибка системы распознавания лиц впервые привела к аресту невиновного

Использование полицейской системы распознавания лиц, основанной на алгоритмах искусственного интеллекта, впервые привело к аресту невиновного человека. Она спутала его с настоящим преступником.

По данным издания The New York Times, полицейские американского города Детройт в январе этого года задержали для проверки некоего Роберта Джулиана-Борчака Уильямса (Robert Julian-Borchak Williams). После того как Уильямса доставили в полицейский участок, его арестовали, потому что система распознавания лиц определила в нём преступника, который в 2018 году совершил магазинную кражу. Как выяснилось позже, система на базе ИИ-алгоритмов совершила ошибку, но Уильямсу всё равно пришлось провести 30 часов за решёткой, пока полицейские не разобрались в ситуации.

Противники систем распознавания лиц уже долгое время утверждают, что данная технология ещё недостаточно совершенна для точного поиска и определения преступников. Сами разработчики подобных систем не раз предостерегали органы правопорядка от их использования в качестве единственного надёжного доказательного инструмента для задержания. Но как оказалось, в случае с Уильямсом данная система стала единственным «доказательством» в пользу ареста невиновного человека.

Примечательно, что программное обеспечение для идентификации лиц, которое использовалось детройтской полицией вместе с результатами проверки Уильямса, вывело следующее сообщение: «Этот документ не является положительным идентификатором. Он представляет собой только следственную версию и не является основанием для задержания».

После внесения залога Уильямса отпустили, а когда разобрались в ситуации — даже извинились. Но этот случай создал прецедент, который указывает на гораздо более обширную проблему — всецело доверять алгоритмам искусственного интеллекта пока нельзя.

«Я серьёзно подозреваю, что это не первый случай ошибки системы, в результате которой был арестован человек, не совершавший преступления. Скорее всего, это всего лишь первый случай, когда об этом стало известно общественности», — подытожила адвокат Клер Гарви (Clare Garvie), к которой издание The New York Times обратилось за комментариями.

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме
window-new
Soft
Hard
Тренды 🔥
Стартовали продажи процессоров Ryzen 7000 и плат на чипсетах AMD X670 и X670E 14 мин.
Спрос на HDD резко упадёт во второй половине 2022 года 25 мин.
LG Innotek потратит $1 млрд на расширение производства камер для iPhone — это усилит зависимость компании от Apple 41 мин.
TeamGroup представила комплект ОЗУ DDR5 с частотой 7200 МГц 2 ч.
Илон Маск сообщил о выпуске более 1 миллиона терминалов Starlink 2 ч.
Европейские провайдеры потребовали привлечь Meta, Google и других IT-гигантов к строительству сетей связи 3 ч.
Vertical Aerospace испытали электрическое аэротакси VX4: привязанный к земле прототип подпрыгнул на 1,5 метра 3 ч.
LG Display столкнулась со слабым спросом на OLED-телевизоры, но ожидает его восстановления в 2023 году 5 ч.
США впервые выделили бюджетные деньги на частные термоядерные реакторы — это должно взбодрить инвесторов 5 ч.
Презентация флагманов Xiaomi 12T и Xiaomi 12T Pro может состояться 4 октября 5 ч.