Новости Software

Ошибка системы распознавания лиц впервые привела к аресту невиновного

Использование полицейской системы распознавания лиц, основанной на алгоритмах искусственного интеллекта, впервые привело к аресту невиновного человека. Она спутала его с настоящим преступником.

По данным издания The New York Times, полицейские американского города Детройт в январе этого года задержали для проверки некоего Роберта Джулиана-Борчака Уильямса (Robert Julian-Borchak Williams). После того как Уильямса доставили в полицейский участок, его арестовали, потому что система распознавания лиц определила в нём преступника, который в 2018 году совершил магазинную кражу. Как выяснилось позже, система на базе ИИ-алгоритмов совершила ошибку, но Уильямсу всё равно пришлось провести 30 часов за решёткой, пока полицейские не разобрались в ситуации.

Противники систем распознавания лиц уже долгое время утверждают, что данная технология ещё недостаточно совершенна для точного поиска и определения преступников. Сами разработчики подобных систем не раз предостерегали органы правопорядка от их использования в качестве единственного надёжного доказательного инструмента для задержания. Но как оказалось, в случае с Уильямсом данная система стала единственным «доказательством» в пользу ареста невиновного человека.

Примечательно, что программное обеспечение для идентификации лиц, которое использовалось детройтской полицией вместе с результатами проверки Уильямса, вывело следующее сообщение: «Этот документ не является положительным идентификатором. Он представляет собой только следственную версию и не является основанием для задержания».

После внесения залога Уильямса отпустили, а когда разобрались в ситуации — даже извинились. Но этот случай создал прецедент, который указывает на гораздо более обширную проблему — всецело доверять алгоритмам искусственного интеллекта пока нельзя.

«Я серьёзно подозреваю, что это не первый случай ошибки системы, в результате которой был арестован человек, не совершавший преступления. Скорее всего, это всего лишь первый случай, когда об этом стало известно общественности», — подытожила адвокат Клер Гарви (Clare Garvie), к которой издание The New York Times обратилось за комментариями.

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме
Прежде чем оставить комментарий, пожалуйста, ознакомьтесь с правилами комментирования. Оставляя комментарий, вы подтверждаете ваше согласие с данными правилами и осознаете возможную ответственность за их нарушение.
Все комментарии премодерируются.
Комментарии загружаются...
window-new
Soft
Hard
Тренды 🔥
Видео: сравнение S.T.A.L.K.E.R. 2 и улучшенного издания Metro Exodus по графике и прочим аспектам 8 мин.
Иск о намеренном сокрытии Google уязвимостей ПО от акционеров вернули на повторное рассмотрение 21 мин.
После релиза в Back 4 Blood могут добавить офлайн-режим, но на запуске его не будет 38 мин.
Свыше 100 квадратных километров: мир в Forza Horizon 5 в полтора раза больше, чем в четвёртой части 46 мин.
Глава Microsoft Сатья Наделла занял пост председателя правления корпорации 2 ч.
Bethesda извинилась за то, что Starfield не выйдет на PlayStation, но сделать с этим ничего не может 2 ч.
Маркетплейс Amazon призвал социальные сети удалять фальшивые отзывы о товарах 3 ч.
Видео: битва с Магом, кооператив и исследование локаций в 10-минутном геймплейном ролике Salt and Sacrifice 3 ч.
Упоминание PS4-версии ремейка Demon’s Souls нашли в базе данных PS Store 4 ч.
Для ПК-версии NieR Replicant ver.1.22474487139… выйдет патч, который обеспечит стабильные 60 кадров/с 4 ч.
Vivo выпустила ещё более доступную версию смартфона Y31s с поддержкой 5G 10 мин.
Mazda представит более десяти электромобилей и гибридов к 2025 году 34 мин.
NVIDIA пообещала, что после покупки Arm её разработки по-прежнему смогут лицензировать все желающие 2 ч.
Космический телескоп «Хаббл» перешёл в безопасный режим из-за сбоя — специалисты NASA пытаются его перезапустить 2 ч.
Leica представила свой первый смартфон Leitz Phone 1 — флагманские характеристики и продвинутая камера 2 ч.
Thermaltake представила мощный блок питания Toughpower TF1 1550W с сертификатом 80 PLUS Titanium 2 ч.
Европейский рынок носимых устройств вырос на треть, а лидирует Apple 3 ч.
Европейские регуляторы могут сорвать сроки согласования покупки Arm компанией NVIDIA 3 ч.
Baidu пообещала обеспечить услугами роботакси 3 млн пользователей через два года 4 ч.
В компании Fisker считают, что электромобили станут привлекательнее машин с ДВС уже к 2025 году 4 ч.