Новости Software

ИИ-алгоритм Facebook перепутал темнокожих мужчин с приматами

Один из роликов в профиле издания The Daily Mail в социальной сети Facebook, в котором присутствовали темнокожие мужчины, был автоматически отмечен как видео с приматами. Пользователи обратили внимание, что соцсеть предлагает «продолжить смотреть видео о приматах», что побудило компанию провести расследование и остановить работу соответствующего алгоритма. Facebook уже принесла извинения, назвав случившееся «недопустимой ошибкой».

Изображение: Jim Wilson / The New York Times

Изображение: Jim Wilson / The New York Times

Речь идёт о видео, которое появилось в профиле The Daily Mail 27 июня. В нём демонстрируются стычки темнокожих мужчин с белыми гражданскими лицами и полицейскими. Ролик не имеет никакого отношения к приматам. Представители компании провели расследование, по результатам которого функционирование дающего рекомендации ИИ-алгоритма было приостановлено.

«Как мы уже говорили, несмотря на то, что мы работаем над улучшением искусственного интеллекта, мы знаем, что он несовершенен и нам ещё предстоит много работы. Мы приносим свои извинения всем, кто мог увидеть эти оскорбительные рекомендации», — прокомментировала данный вопрос пресс-секретарь Facebook Дэни Левер (Dani Lever).

Изображение: The New York Times

Изображение: The New York Times

Отметим, что Google, Amazon и другие технологические гиганты уже много лет находятся под пристальным вниманием из-за предвзятости создаваемых ими алгоритмов, особенно в расовых вопросах. Исследования показали, что технология распознавания лиц предвзято относится к темнокожим людям и с трудом идентифицирует их, из-за чего произошло несколько инцидентов, когда темнокожие подвергались дискриминации или беспричинным арестам.

Случаи, подобные нынешнему, случались и ранее. Например, в 2015 году сервис Google Фото пометил несколько снимков с темнокожими людьми как изображения «гориллы», за что Google пришлось приносить извинения. Тогда же было объявлено, что компания будет работать над немедленным устранением проблемы. Более чем через два года было установлено, что Google решила вопрос путём цензурирования слова «горилла» в поисковых запросах, а также частичной блокировкой слов «шимпанзе» и «обезьяна».

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме
Прежде чем оставить комментарий, пожалуйста, ознакомьтесь с правилами комментирования. Оставляя комментарий, вы подтверждаете ваше согласие с данными правилами и осознаете возможную ответственность за их нарушение.
Все комментарии премодерируются.
Комментарии загружаются...
window-new
Soft
Hard
Тренды 🔥
Valve протестирует каждую игру в Steam на совместимость с портативной консолью Steam Deck 7 ч.
Шифровальщик REvil приостановил работу после того, как неизвестный взломал сервера хакеров 8 ч.
Релиз Ubuntu Server 21.10: ядро 5.13, needrestart, nftables и поддержка NVIDIA vGPU 9 ч.
Apple представила macOS Monterey с улучшенными Safari и FaceTime — она выйдет 25 октября 9 ч.
Минцифры запустит супер-приложение «Госуслуги» в следующем году и разрешит регистрировать в сервисе детей 10 ч.
Анонсирован специальный тарифный план Apple Music для HomePod стоимостью $4,99 в месяц 10 ч.
Уже завтра Outriders появится в каталоге Xbox Game Pass для ПК 10 ч.
В Epic Games Store стартовала хэллоуинская распродажа со скидками на страшные игры и не только 11 ч.
Riders Republic вновь дадут попробовать бесплатно — на этот раз на протяжении недели 12 ч.
YouTube больше других iOS-приложений заработал на пользователях — они потратили в нём $3 млрд за всё время существования 12 ч.