Сегодня 21 апреля 2024
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

У искусственного интеллекта обнаружили склонность к дискриминации меньшинств

Активно внедряемые сегодня во все сферы деятельности системы искусственного интеллекта демонстрируют предвзятое отношение к тем или иным меньшинствам, утверждают представители многих правозащитных организаций. Это проявляется в сбоях систем распознавания лиц, которые с трудом идентифицируют чернокожих; отказах голосовой идентификации для пользователей с характерным региональным акцентом; или запретах на выдачу кредитов меньшинствам в банках.

 Источник изображения: Hitesh Choudhary / unsplash.com

Источник изображения: Hitesh Choudhary / unsplash.com

Набиль Манджи (Nabil Manji), глава отдела криптовалют и web3 в платёжной службе Worldpay отмечает, что качество работы ИИ-модели определяется двумя составляющими: использованными при обучении материалами и эффективностью алгоритмов — поэтому Reddit и другие крупные платформы взимают плату за доступ к данным для обучения ИИ. Образуется фрагментация данных, и в традиционно консервативной сфере финансовых услуг результативность ИИ оказывается ниже, чем у компаний, способных быстро внедрять передовые решения и производить выборки актуальных данных. Образцом репрезентативно разрозненных данных в этом случае может служить технология блокчейна, уверен эксперт.

Румман Чоудхури (Rumman Chowdhury), бывший глава подразделения Twitter по этике машинного обучения назвал сферу кредитования ярким примером дискриминации со стороны ИИ. Аналогичная схема действовала в Чикаго в тридцатые годы прошлого века, напомнил эксперт: в банках висели большие карты города, на которых красным были отмечены районы с преимущественным проживанием чернокожего населения — жителям этих районов в кредитах отказывали. Аналогичные ошибки, по его словам, совершают и современные ИИ-алгоритмы оценки кредитоспособности граждан, принимая этническую принадлежность клиента в качестве одного из параметров.

 Источник изображения: Inatimi Nathus / unsplash.com

Источник изображения: Inatimi Nathus / unsplash.com

Об этом говорит и Энгл Буш (Angle Bush), основательница организации «Чёрные женщины в искусственном интеллекте» — она признаёт, что такая дискриминация носит непреднамеренный характер и призывает кредитные организации как минимум допускать возможность такой ошибки. Разработчик в области ИИ Фрост Ли (Frost Li) обратил внимание, что из-за технологической дискриминации уже появилось множество малых финтех-стартапов специально для иностранцев: традиционный банк легко может отказать выпускнику Токийского университета в выдаче кредитной карты, даже если он работает в Google, но согласиться обслуживать любого выпускника местного колледжа.

Доказать факты такой дискриминации бывает непросто. Apple и Goldman Sachs пытались обвинить в том, что пользующимся Apple Card женщинам они устанавливали более низкие кредитные лимиты, чем мужчинам. Но Департамент финансовых услуг Нью-Йорка не смог найти подтверждений этим обвинениям.

По мнению экспертов, защититься от дискриминации человека со стороны ИИ помогут меры регулирования отрасли, вводимые международным организациями вплоть до ООН. Потенциальными проблемами ИИ являются становящиеся компонентами алгоритмов элементы дезинформации и предубеждений, а также «галлюцинации». В этой связи при внедрении ИИ в работу компаний или органов власти необходимы механизмы обеспечения прозрачности и подотчётности алгоритмов, которые помогут даже не являющимся профессионалами гражданам самостоятельно судить об их эффективности. У граждан должна быть возможность подавать жалобы на подобные решения; ИИ-алгоритмы должны проходить проверки, а на этапе их развёртывания необходима экспертиза на предмет предвзятости.

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Вечерний 3DNews
Каждый будний вечер мы рассылаем сводку новостей без белиберды и рекламы. Две минуты на чтение — и вы в курсе главных событий.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
Евросоюз занялся изучением политики Broadcom в отношении лицензирования продуктов VMware 3 ч.
Серверы LittleBigPlanet 3 для PS4 так и не заработали после вынужденного трёхмесячного перерыва — их отключили навсегда 7 ч.
Палата представителей Конгресса США приняла новый законопроект о блокировке TikTok, и в этот раз его одобрят в Сенате 15 ч.
Новая статья: Ender Magnolia: Bloom in the Mist — девочки опять грустят. Предварительный обзор 24 ч.
Биткоин пережил четвёртый в истории халвинг — вознаграждение майнерам снизилось вдвое 20-04 11:13
Schneider Electric ведёт переговоры о покупке Bentley Systems 20-04 01:10
Не думай о секундах свысока: спустя 26 лет спидраннер побил «невозможный» рекорд прохождения первого уровня Doom II — ушло 100 тысяч попыток 20-04 00:37
Новая статья: Atom Bomb Baby: рассказываем, почему Fallout — идеальная экранизация видеоигрового материала, и почему этот сериал не стоит пропускать 20-04 00:05
Bethesda готовит «несколько очень хороших обновлений» для Starfield, а Fallout 5 не в приоритете 19-04 23:00
Apple откроет сторонним приложениям доступ к NFC 19-04 22:34
Власти Японии потратят $470 млн на создание ИИ-суперкомпьютера нового поколения 3 ч.
Tesla надеется предложить FSD китайским клиентам в ближайшее время 16 ч.
Спрос на электроэнергию в районе Чикаго взлетит на 900 % из-за ИИ ЦОД 20-04 21:35
ИИ-облако TensorWave получит 20 тыс. ускорителей AMD Instinct MI300X 20-04 20:50
«Микрон» представил российский ПЛК на базе RISC-V для автоматизации критических инфраструктур 20-04 20:37
«Группа Астра» создала компанию «Иксдата» по выпуску ПАК для высоконагруженных СУБД и анализа данных 20-04 20:33
Новый BIOS для плат Asus Z790 повышает стабильность работы чипов Intel, но снижает их производительность 20-04 18:54
Meta готовит смарт-браслет с возможностью считывания сигналов мозга 20-04 17:56
Производители материнских плат начали выпуск BIOS с поддержкой процессоров на Zen 5 20-04 16:58
Акции технологических компаний показали снижение — Nvidia потеряла 10 % 20-04 15:51