Теги → ненависть

Facebook ошибочно сочла «Декларацию независимости» разжигающей ненависть

Возможно, современная система американских ценностей несколько изменилась по сравнению с теми принципами, на которых она покоится. По крайней мере, Facebook на днях пометила опубликованные техасской газетой отрывок из «Декларации независимости» 1776 года как текст, разжигающий ненависть.

Накануне празднования Дня независимости 4 июля издание Liberty County Vindicator в Техасе публиковало каждое утро на своей странице в Facebook по фрагменту знаменитого исторического документа. Но с 10-й частью, содержащей последние 5 обвинений против британского короля, что-то пошло не так. В уведомлении от социальной сети газете предписывалось проверить свою публикацию и удалить всё, что не соответствует политике Facebook.

Вероятно, причиной послужили слова с нелестной характеристикой в адрес туземных американцев: «Он [король] подстрекал нас к внутренним мятежам и пытался натравливать на жителей наших пограничных земель безжалостных дикарей-индейцев, чьи признанные правила ведения войны сводятся к уничтожению людей, независимо от возраста, пола и семейного положения».

«Возможно, было бы лучше, если бы Томас Джефферсон написал: „коренные американцы на сложной стадии культурного развития“. Но, к сожалению, Джефферсон, как и большинство британских колонистов того времени, не выражал полного дружелюбия к коренным американцам», — написал по этому поводу на сайте газеты Vindicator её редактор Кейси Стиннетт (Casey Stinnett), добавив: «Хотя, если быть честным, в этом отрывке есть многое, что можно считать разжигающим ненависть».

Протест издания не остался не замеченным Facebook, восстановившей в итоге оригинальную публикацию и признавшей неправомерность цензуры: «Похоже, мы допустили ошибку и удалили вашу публикацию на Facebook, которая не противоречит нашим стандартам сообщества. Мы хотим извиниться и сообщить, что восстановили ваш материал, а также удалили все ограничения вашей учетной записи, обусловленные этим неправильным действием».

«Vindicator благодарит Facebook. Мы никогда не сомневались, что Facebook признает свою ошибку, но мы также не сомневались в полезности нашего возражения по этому поводу», — отметил редактор.

В последние месяцы Facebook неоднократно была вовлечена в полемику о безопасности личной информации пользователей и о политике в отношении материалов, расцениваемых как порождающие мистификации или ненависть. Если решение автоматики проверялось сотрудниками-цензорами Facebook, то это ещё раз свидетельствует о глубоких недостатках в данной работе.

В апреле вице-президент Facebook по вопросам глобальной политики Моника Бикерт (Monika Bickert) пообещала, что в следующем году социальная сеть предоставит инструменты, которые позволят людям обжаловать цензуру и запрашивать пересмотр решения Facebook по удалению публикаций, фотографий или видео.

Facebook попросила прощения за «ошибки» модерации

Количество пользователей Facebook давно превысило 2 млрд и продолжает расти, так что задача контроля за соблюдением правил сообщества становится всё более сложной. Незавидная работа возложена на плечи команды модераторов, насчитывающей 7500 человек (помимо алгоритмов сайта), которые просматривают множество неприглядных публикаций, начиная с террористических материалов и заканчивая изображениями жестокого обращения с детьми.

Неудивительно, что модераторы не всегда верно понимают суть изображения или публикации (частично из-за двусмысленных рекомендаций самой Facebook). Проблеме распространения ненависти и вражды с помощью крупнейшей социальной сети был посвящён недавний материал некоммерческой организации ProPublica.

Её сотрудники отправили в Facebook набор из 49 примеров (выбранных из 900 публикаций добровольцев) с просьбой объяснить решения модераторов. В большинстве этих случаев сообщения, содержавшие сексистские, расистские или антимусульманские высказывания, остались опубликованными; в нескольких же случаях вполне законное выражение эмоций было удалено. Социальная сеть признала, что её редакторы неверно отреагировали на 22 случая. В шести примерах Facebook сказала, что пользователи запутали модераторов неверно оформленными жалобами или авторы сами удалили сообщения; а в двух случаях не было достаточно информации для реакции. Компания также выступила в защиту решений 19 своих редакторов.

«Мы сожалеем об ошибках, которые допустили, — сказал в заявлении Facebook вице-президент Джастин Ософский (Justin Osofsky). — Мы должны справляться лучше». Руководитель добавил, что в следующем году социальная сеть расширит свою команду по безопасности и защите до 20 тысяч человек, чтобы лучше поддерживать стандарты сообщества. Он добавил, что Facebook еженедельно удаляет порядка 66 тысяч сообщений, на которые поступают жалобы в распространении ненависти.

Помимо борьбы с дезинформацией, Facebook старается развивать и свои инструменты для удаления чувствительных материалов. Например, в апреле социальная сеть добавила механизм жалоб на «порновозмездие» (Revenge Porn — распространение фото- или видеоматериалов жертвы, запечатлённой во время сексуальной активности или в ином непотребном виде). Появляются и другие инструменты борьбы с агрессивным поведением собеседников и тому подобными тёмными сторонами общения в социальных сетях. Например, благодаря недавним новшествам должен снизится поток нежелательных сообщений и запросов в друзья.

В Германии будут штрафовать социальные сети на €50 млн за пропаганду ненависти

Парламент Германии утвердил в пятницу законопроект Netzwerkdurchsetzungsgesetz (NetzDG), согласно которому социальную сеть могут наказать штрафом в размере до €50 млн за несвоевременное удаление постов, разжигающих и пропагандирующих ненависть, а также другого контента экстремистского характера.

GETTY IMAGES

GETTY IMAGES

Новый закон, применяемый к крупным социальным сетям с аудиторией более 2 млн человек, таким как Facebook, YouTube, вступает в силу в октябре этого года. Согласно ему, социальным сетям предоставляется всего 24 часа для удаления или блокирования явно преступного контента, и семь дней для рассмотрения менее очевидных дел с обязательным уведомлением лица, которое подало жалобу, о том, как был решён вопрос по этому делу.

Несоблюдение закона может привести к штрафу в размере до €5 млн в отношении лица, которое представляет интересы компании в Германии, и до €50 млн в отношении самой компании, владеющей социальной сетью.

Закон вызвал критику среди журналистов и экспертов, заявивших, что его принятие наносит ущерб свободе слова. «Это неправильный подход, призванный превратить социальные сети в контентную полицию», — заявил Фолькер Трипп (Volker Tripp), глава потребительской группы Digital Society Association.

Сервис комментирования Disqus серьёзно настроен на борьбу с ненавистью и нарушениями

Сервисы комментирования приходят и уходят, но один из них существует уже давно и заслужил доверие. Последние 10 лет Disqus помогал брендам и новостным сайтам развивать сообщества и собирал базу из сотен миллионов собственных пользователей. Сервис популярен, поэтому встроен и в сайты непристойного содержания. Disqus не терпит высказываний на почве ненависти, но пока поддерживает такие ресурсы. Теперь компания хочет что-то с этим сделать.

Вице-президент по делам людей и культуры Ким Рорер (Kim Rohrer) рассказала, какие шаги компания собирается предпринять. Disqus представит инструмент для отправки отзывов, с помощью которого читатели будут сообщать о нарушении условий использования сервиса. По-прежнему можно будет помечать отдельных пользователей, но если сообщество всячески демонстрирует ненависть, то Disqus прекратит работу с ресурсом.

В основном груз ответственности ляжет на плечи издателей и модераторов. Компания разрабатывает инструменты для продвигающих свободу слова, но хочет избавиться от троллей. Модераторы смогут банить пользователей таким образом, чтобы их комментарии не видел никто, кроме самих нарушителей.

Disqus собирается автоматизировать некоторые процессы с помощью машинного обучения. Например, алгоритмы будут обнаруживать повторяющиеся слова и фразы. Рекламодатели смогут выбирать, где должен появляться их контент, чтобы не работать с обсуждениями, с которыми не хотят ассоциироваться.

«Если публикация включает едкие или ненавистные рассуждения, никакое программное обеспечение или продукты не помогут побороть враждебную речь или едкость, — заявила Disqus. — В случаях, когда сайт настроен на целенаправленное нарушение наших условий обслуживания, мы будем отстаивать свою позицию и обеспечивать соблюдение нашей политики».

window-new
Soft
Hard
Тренды 🔥