Новости Software

Ошибка системы распознавания лиц впервые привела к аресту невиновного

Использование полицейской системы распознавания лиц, основанной на алгоритмах искусственного интеллекта, впервые привело к аресту невиновного человека. Она спутала его с настоящим преступником.

По данным издания The New York Times, полицейские американского города Детройт в январе этого года задержали для проверки некоего Роберта Джулиана-Борчака Уильямса (Robert Julian-Borchak Williams). После того как Уильямса доставили в полицейский участок, его арестовали, потому что система распознавания лиц определила в нём преступника, который в 2018 году совершил магазинную кражу. Как выяснилось позже, система на базе ИИ-алгоритмов совершила ошибку, но Уильямсу всё равно пришлось провести 30 часов за решёткой, пока полицейские не разобрались в ситуации.

Противники систем распознавания лиц уже долгое время утверждают, что данная технология ещё недостаточно совершенна для точного поиска и определения преступников. Сами разработчики подобных систем не раз предостерегали органы правопорядка от их использования в качестве единственного надёжного доказательного инструмента для задержания. Но как оказалось, в случае с Уильямсом данная система стала единственным «доказательством» в пользу ареста невиновного человека.

Примечательно, что программное обеспечение для идентификации лиц, которое использовалось детройтской полицией вместе с результатами проверки Уильямса, вывело следующее сообщение: «Этот документ не является положительным идентификатором. Он представляет собой только следственную версию и не является основанием для задержания».

После внесения залога Уильямса отпустили, а когда разобрались в ситуации — даже извинились. Но этот случай создал прецедент, который указывает на гораздо более обширную проблему — всецело доверять алгоритмам искусственного интеллекта пока нельзя.

«Я серьёзно подозреваю, что это не первый случай ошибки системы, в результате которой был арестован человек, не совершавший преступления. Скорее всего, это всего лишь первый случай, когда об этом стало известно общественности», — подытожила адвокат Клер Гарви (Clare Garvie), к которой издание The New York Times обратилось за комментариями.

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме
window-new
Soft
Hard
Тренды 🔥
Стереть нельзя уничтожить: Verity ES предлагает решение для надёжной очистки б/у накопителей 4 ч.
Система сетевой безопасности «Гарда монитор» получила сертификат ФСТЭК России 5 ч.
Ubisoft анонсировала дополнение Lost Between Worlds для Far Cry 6 и выпустила патч с «Новой игрой +» 6 ч.
«Они уже даже не стараются»: декабрьская линейка Games with Gold для подписчиков Xbox Live Gold и Xbox Game Pass Ultimate неприятно удивила игроков 7 ч.
Утечка: в декабре подписчикам PS Plus достанется известнейшая трилогия ролевых игр BioWare и не только 8 ч.
«Объясните свою некомпетентность»: игроки ругают Blizzard за проблемы на запуске World of Warcraft: Dragonflight — компания уже ответила 9 ч.
Служба AWS Time Sync стала доступна в виде публичного NTP-сервиса 10 ч.
Samsung готовит приложение с инструкциями для самостоятельного ремонта электроники 11 ч.
Против Google подали коллективный иск 21 млн пользователей за слишком большие комиссии в Play Маркете 12 ч.
Star Wars Battlefront II получит полноценный VR-мод — работа над ним уже идёт полным ходом 12 ч.
Новая статья: Обзор телевизора Hisense U7HQ55: акцент на качестве картинки 3 ч.
Tencent поможет китайскому производителю электромобилей NIO создавать технологии автономного вождения 6 ч.
На фото показались первые ноутбуки на Intel Raptor Lake и AMD Ryzen 7000, с графикой GeForce RTX 4000 и Radeon RX 7000S 6 ч.
МТС развернула облачный сервис GSLB для глобального распределения интернет-трафика 7 ч.
К 2025 году каждый второй автомобиль будет оснащён частичным автопилотом 7 ч.
ASUS представила плату Pro WS W680-ACE IPMI — она получила IPMI-карту с ASPEED AST2600 9 ч.
Xiaomi раскрыла, насколько Snapdragon 8 Gen 2 быстрее предшественника — он может догнать и обогнать Apple A16 Bionic 9 ч.
Российские космонавты на МКС впервые напечатали что-то на 3D-принтере 9 ч.
Google почти полностью переведёт ЦОД и офисы в Испании на возобновляемую энергию 9 ч.
ICON получила от NASA $57 млн, чтобы научиться строить на Луне из местных материалов 9 ч.