Новости Software

WSJ: ИИ-алгоритм Facebook не способен эффективно удалять проблемный контент

По сообщениям сетевых источников, система искусственного интеллекта Facebook, используемая для поиска и блокировки проблемного контента в социальной сети компании, не способна эффективно выполнять поставленные задачи. Об этом пишет издание The Wall Street Journal со ссылкой на внутренние документы гиганта социальных сетей.

Изображение: foxbusiness.com

Изображение: foxbusiness.com

Согласно имеющимся данным, ИИ-система Facebook не способна эффективно идентифицировать видео от первого лица, а также контент, содержащий расистские высказывания, язык ненависти и чрезмерное насилие. Источник отмечает, что в некоторых случаях алгоритм не может отличить петушиные бои от автокатастрофы. Документы Facebook говорят о том, что в отношении контента с ненавистническими высказываниями ИИ-система определяет и блокирует лишь малую часть таких публикаций (менее 10 %). В случаях, когда алгоритм не может дать чёткое заключение о необходимости блокировки того или иного поста пользователя, спорный контент демонстрируется реже, но опубликовавший его аккаунт остаётся безнаказанным.

Около двух лет назад Facebook сократила время, которое есть у модераторов-людей на рассмотрение жалоб, а также внесла ряд других изменений в рабочие процессы, чтобы сократить общее количество жалоб. При этом сотрудники, ответственные за защиту платформы Facebook от нежелательного контента, сообщали руководству, что используемый ИИ-алгоритм недостаточно эффективен. По оценкам старшего инженера, автоматизированные системы компании удаляли сообщения, которые генерировали лишь 2 % просмотров разжигающих ненависть высказываний на платформе. Он также отметил, что в случае, если в ближайшее время не будут внесены существенные изменения в стратегию компании в плане модерации контента, то в краткосрочной перспективе ИИ-алгоритм будет выявлять не более 10-20 % проблемного контента.

Представитель Facebook Энди Стон (Andy Stone) заявил, что озвученные в отчёте проценты относятся к сообщениям, которые были удалены непосредственно ИИ-системой и не включают контент, обработанный иными способами, в том числе путём понижения рейтинга постов. Опубликованные данные резко контрастируют с ожиданиями руководства гиганта социальных сетей в лице генерального директора Марка Цукерберга (Mark Zuckerberg), который ранее заявлял, что ИИ-система компании будет способна обнаруживать «подавляющее большинство проблемного контента» к концу 2019 года. Представитель компании также отметил, что важнее учитывать другие цифры, показывающие сокращение общего количества ненавистнического контента на платформе.

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме
Прежде чем оставить комментарий, пожалуйста, ознакомьтесь с правилами комментирования. Оставляя комментарий, вы подтверждаете ваше согласие с данными правилами и осознаете возможную ответственность за их нарушение.
Все комментарии премодерируются.
Комментарии загружаются...
window-new
Soft
Hard
Тренды 🔥
Следующий трейлер «революционного» ролевого экшена Steelrising покажут на The Game Awards 2021 4 ч.
Улучшенное издание SpellForce 3 вышло на ПК — владельцам базовой версии полагается бесплатное обновление 4 ч.
Представлен дистрибутив CentOS Stream 9 5 ч.
Декабрьскую подборку PlayStation Now возглавили ремастеры GTA III и Final Fantasy X 5 ч.
Ubisoft устроила раздачу экономической стратегии Anno 1404 6 ч.
Загадочный игровой опыт по мотивам «Матрицы» оказался кинематографическим демо для консолей нового поколения 6 ч.
В преддверии выхода крупного аддона Final Fantasy XIV установила рекорд онлайна в Steam 8 ч.
Работа над ошибками: наглядное видеосравнение релизной графики Halo Infinite с прошлогодним трейлером 8 ч.
Пентагон признал участие в борьбе против группировок хакеров-вымогателей 9 ч.
Видео: трейлер с Человеком-пауком и другими персонажами первого сезона третьей главы Fortnite 9 ч.
ИИ-ускорители AWS Trainium: 55 млрд транзисторов, 3 ГГц, 512 Гбайт HBM и 840 Тфлопс в FP32 25 мин.
Новая статья: Компьютер месяца — декабрь 2021 года 38 мин.
Грядущие смарт-часы Google впервые показались на изображениях с безрамочным экраном 2 ч.
Bloomberg: в следующем году Apple представит защищённые смарт-часы и Watch SE 2 2 ч.
Первая гарнитура смешанной реальности Apple будет ориентирована на игры, мультимедиа и общение 2 ч.
AMD выпустит в следующем году платформу 4800S Desktop Kit с комплектной Radeon RX 6600 2 ч.
В Австралии создадут «чёрный ящик Земли» — на него запишут хронику гибели человечества 2 ч.
Представлены беспроводные наушники Nokia E3103 с лаконичным дизайном и длительным временем автономной работы 4 ч.
Amazon выпустит документальный фильм о том, как свозила в космос актёра Уильяма Шетнера 4 ч.
Акции Tesla продолжают падать — компания снова стоит меньше триллиона долларов 4 ч.