Теги → оскорбления

Новые инструменты Facebook предотвратят нежелательные сообщения и запросы в друзья

Как и в любой другой социальной сети, в Facebook прочно укрепились хулиганство и запугивание. В борьбе с таким поведением компания добавила ряд инструментов, которые предотвратят нежелательные личные сообщения и запросы в друзья.

«Мы слышали истории о том, как люди блокировали недоброжелателя, а тот появлялся снова, но с другого аккаунта, — написал глава по глобальной безопасности Facebook Антигон Дэвис (Antigone Davis). — Чтобы помочь предотвратить такие столкновения, мы дополнили существующие функции и тем самым предотвратили появление в Facebook поддельных учётных записей».

Представьте, что вы кого-то заблокировали, но этот человек создал другой аккаунт, чтобы продолжить вам писать. С помощью новых инструментов Facebook попытается определить такие действия и не позволить недоброжелателю отправить вам сообщение или запрос в друзья. Для этого компания использует сигналы вроде IP-адреса злоумышленника.

Facebook также внедрила функцию, которая позволяет игнорировать переписки. Она отключает уведомления и отправляет диалог в папку с отфильтрованными сообщениями. Оттуда вы можете читать сообщения, а отправитель об этом даже не узнает. Пока это нововведение распространяется только на индивидуальные переписки, но скоро в список попадут и групповые диалоги.

Дэвис рассказал, что над перечисленными инструментами Facebook работала с экспертами в разных областях. Среди организаций, с которыми сотрудничала компания — «Национальная сеть по борьбе с домашним насилием» (National Network to End Domestic Violence).

Google борется с неприемлемой и неправдоподобной информацией в поиске

Google анонсировала ряд изменений для поискового движка. Они должны снизить число случаев появления в результатах фальшивых новостей и другой неприемлемой информации. Улучшения коснулись системы ранжирования запросов, инструментов для отправки отзывов и других аспектов.

Чтобы ограничить распространение оскорбительных или неточных результатов поиска, Google обновила рекомендации по качеству оценивания. На них опираются те, кто вручную отсеивает результаты. В списке присутствуют более ясные примеры низкокачественных результатов, включая «вводящую в заблуждение информацию, неожиданные оскорбительные результаты, мистификации и неподдерживаемые теории заговора». Также компания изменила алгоритмы таким образом, чтобы приоритет отдавался результатам из авторитетных источников.

В последние месяцы Google особенно часто критиковали за то, что в поиске появляются крайне неточные и оскорбительные результаты. В декабре самым популярным результатом на запрос «был ли Холокост?» стала ссылка на сайт сторонников превосходства белых. Теперь, по словам вице-президента по разработке Google Бена Гомеса (Ben Gomes), такие результаты будут отображаться гораздо реже.

Компания представила новый механизм отправки отзывов, который позволяет сообщать о неточных рекомендациях по автозаполнению и текстовых фрагментах, появляющихся вверху страницы. Такие карточки всё чаще включают информацию о различных теориях заговора. Теперь пользователи могут на это жаловаться.

В общем и целом, Google хочет, чтобы люди лучше понимали принципы работы поиска. Информация об удалении контента и правилах автозаполнения стала доступна в разделе справки.

Twitter начала помечать аккаунты некоторых пользователь как «чувствительные»

Очередной попыткой Twitter сделать платформу более дружелюбным местом стала новая система, помечающая аккаунты некоторых пользователей как содержащие «потенциально чувствительные изображения или речь». Предупреждение занимает всю страницу помеченного профиля и требует нажать на кнопку «Согласиться», чтобы начать просмотр аккаунта.

Идея заключается в том, чтобы ограничить с помощью таких предупреждений доступ к аккаунтам некоторых пользователей — как для того, чтобы пресечь недоброжелательную деятельность этих пользователей, так и для того, чтобы на такие страницы не могли заходить другие люди. Представитель Twitter подтвердил, что пока нововведение только тестируется.

Ariel Bogle/Twitter

Ariel Bogle/Twitter

Как и в случае с большинством других мер компании по пресечению случаев оскорбления пользователей, функции определённо недостаёт прозрачности. В частности, не сообщается, по каким признакам аккаунты определяются как «чувствительные». Некоторые люди сообщают о том, что их профилям была присвоена новая пометка и они даже не знали об этом, пока другие пользователи не сообщили им об этом.

Также не ясно, помечаются ли аккаунты чувствительными после жалоб на них либо существуют другие автоматизированные методы. Все эти недоговорки могут привести к тому, что «законопослушные» пользователи Twitter будут получать такие пометки просто потому, что, например, недоброжелатели соберут на них достаточное число жалоб или алгоритм компании идентифицирует опубликованные через аккаунт фото или видео как неприемлемые.

Ariel Bogle/Twitter

Ariel Bogle/Twitter

Это напоминает недавнюю ситуацию, когда Twitter вынуждена была быстро отменить внесённое в сервис изменение, затрагивающее методику уведомления пользователей о том, что они помещены в тот или иной публичный список. Тогда нововведение лишь усугубило ситуацию, а не помогло бороться со случаями оскорблений, как было задумано.

Twitter начала временно блокировать аккаунты-нарушители

С целью уменьшить число случаев троллинга и оскорблений Twitter начала временно блокировать аккаунты пользователей, нарушающих условия использования сервиса. Твиты заблокированного таким образом аккаунта не могут видеть пользователи, не подписанные на этот аккаунт. Нововведение не только позволяет удерживать оскорбительные публикации в рамках того круга людей, которые, оставшись подписчиками, дали «согласие» на просмотр таких сообщений, но также распространяется и на упоминания. Так, например, если злоумышленник пытается отправить твит кому-то, кто на него не подписан, то получатель никакого уведомления не увидит.

Это уже не первая мера, которую Twitter предпринимает в борьбе со случаями неадекватного поведения в сервисе, но этот шаг ещё раз подчёркивает приверженность компании адекватной части своей пользовательской базы. Впрочем, как можно было предположить, некоторые пользователи не очень довольны нововведением. Один из них, например, пожаловался на то, что его аккаунт был заблокирован просто из-за слова, которое Twitter считает неприемлемым. Однако компания утверждает, что она смотрит на поведение аккаунтов, а не просто блокирует пользователей, основываясь на использовании ими матерных слов.

Drybones/Twitter

Drybones/Twitter

Некоторые воспримут нововведение как нарушение компанией свободы слова, но многие пользователи ждали такого рода изменений в Twitter уже давно. Недавно генеральный директор компании Джек Дорси (Jack Dorsey) заявил, что один из основных её приоритетов — дать пользователям больше возможностей для управления своими аккаунтами. Судя по всему, вышеописанные меры безопасности как раз и является одной из таких возможностей.

Twitter анонсировала три новых инструмента для борьбы с оскорбительным контентом

Неделю назад Twitter признала тот факт, что недостаточно эффективно боролась со случаями оскорблений в сервисе, а теперь анонсировала три новых инструмента, предназначенных для превращения сайта в более мирное место. Вице-президент компании по разработке Эдвард Хо (Edward Ho) заявил, что эти новые возможности станут доступны пользователям совсем скоро.

Наиболее полезным выглядит самое первое нововведение — фильтр, который по умолчанию скрывает «оскорбительные или низкокачественные твиты». Судя по изображению в официальном анонсе, фильтр распространяется на обсуждения твитов в ленте — наименее соответствующие теме ответы автоматически скрываются. При желании, конечно, можно развернуть список ответов и увидеть их все. Нововведение станет доступно в ближайшие недели.

Также компания снова пытается избавиться от троллей, ограничивая возможности для создания новых аккаунтов. Она собирается определять людей, доступ к сервису для которых был заблокирован навсегда, и не давать им возможности продолжать в Twitter свою негативную деятельность. Подробностей касательно того, как функция будет работать, нет. Предположительно, тролли «корпоративного» уровня всё равно научатся обходить такую блокировку, однако в их искоренении нововведение всё равно должно сильно помочь.

Наконец, Twitter объявила о том, что работает над более безопасными результатами поиска, в которых не отображаются твиты заблокированных или приглушённых пользователем аккаунтов. Также будут блокироваться результаты с «потенциально конфиденциальным контентом», но как именно компания собирается идентифицировать такой контент, не сообщается. Как и в случае с первым нововведением, при желании можно будет просмотреть даже заблокированные результаты — скрываться они будут только по умолчанию.

Twitter станет активнее бороться с оскорблениями

Twitter собирается добавить в сервис ряд улучшений, которые сделают сервис «более безопасным местом». В целой серии твитов вице-президент компании по разработке Эдвард Хо (Edward Ho) признал то, что все и так уже давно знали: Twitter проделала громадную работу в уменьшении случаев оскорбления пользовательской аудитории сайта. В течение недели пользователи начнут замечать признаки того, что компания пытается всё исправить. В частности, будут внесены исправления в систему блокировки пользователей, а недоброжелатели больше не смогут создавать новые аккаунты.

Представитель Twitter также сообщил сайту VentureBeat следующее: «Мы подходим к безопасности со всей серьёзностью. Поэтому в ближайшие дни и недели мы внесём ряд изменений в продукт — некоторые из них станут заметны сразу же, а другие будут направлены на специфичные случаи. В процессе мы будем делиться с вами новой информацией и продолжим тестировать, учиться и перебирать эти изменения для оценки их эффективности. Вы можете ожидать существенного прогресса в этой сфере».

Борьба с  оскорбительными и унизительными твитами в сервисе была объявлена высшим приоритетом для компании — особенно после того как генеральный директор Twitter Джек Дорси (Jack Dorsey) в конце прошлого года попросил пользователей активно делиться своими мнениями по этому поводу. Дорси признал, что, «впереди много работы», отметив, что компания движется в нужном направлении не очень быстро. Теперь Хо говорит, что Twitter хочет прогрессировать «в рамках дней и часов, а не недель и месяцев».

В Instagram теперь можно отключать комментарии в публикациях

В последние несколько месяцев в Instagram начали появляться функции, позволяющие пользователям бороться с оскорбительными материалами. Сначала в сервисе появилась возможность блокировать отдельные слова в комментариях, теперь же в него добавили ещё несколько инструментов для борьбы с недоброжелателями. По словам компании, все эти функции станут доступны в ближайшие несколько недель. И самая главная из них — это возможность полностью избавляться от комментариев в публикациях.

При создании новой публикации в Instagram можно будет увидеть меню продвинутых настроек, где появится функция отключения комментариев для фотографии. Позже при желании комментарии снова можно будет включить. К сожалению, отключить их для всего контента на аккаунте пока нельзя. Более того, отдельные комментарии можно будет отмечать как понравившиеся.

Ещё одна новая функция связана с закрытыми аккаунтами. Как и раньше, новых подписчиков на таких аккаунтах нужно принимать по одному, но теперь пользователи смогут при желании в любой момент удалять ненужных подписчиков. Раньше приходилось действовать более агрессивно: в частности, блокировать пользователей, чтобы убрать их из списка подписчиков. По словам компании, такие люди не будут получать никаких уведомлений о том, что от них «избавились».

Наконец, появилась новая опция для анонимных жалоб на так называемые «членовредительские» публикации. Увидев чей-то пост, в котором есть намёки на то, что человек может нанести себе вред, можно отметить его для последующего рассмотрения работниками компании. У Instagram есть специальная команда работающих круглые сутки людей, помогающих находящимся в опасном положении пользователям.

Facebook будет находить оскорбительные прямые трансляции с помощью ИИ

Директор прикладного машинного обучения Facebook Хоакин Кандела (Joaquin Candela) рассказал Reuters о том, что компания работает над инструментом для автоматического обнаружения в прямых трансляциях наготы, насилия и любого другого контента, нарушающего условия использования социальной сети. В данный момент функция тестируется в Facebook Live.

Вместо того, чтобы полагаться на жалобы пользователей и силами работников их проверять, компания ввела систему, которая самостоятельно находит оскорбительные материалы. Согласно июньскому сообщению Reuters, компания уже работает над технологией поиска экстремистского контента — например, жестоких фотографий и видеороликов. Тем не менее, для того, чтобы начать автоматически находить такой контент в прямых трансляциях, понадобится гораздо больше усилий.

Споры касательно трансляций в Facebook начались после того, как в прямом эфире чикагский полицейский застрелил ни в чём не повинного Антонио Перкинса (Antonio Perkins). Запись трансляции не удалили из социальной сети, а всего лишь пометили предупреждающим сообщением, поскольку видео было признано примером реальных последствий насилия. В то же время компания заявила, что будет удалять с сайта ролики, делающие из насильственных действий сенсацию.

Как объяснил Кандела, на данный момент существует две значительные проблемы с поиском оскорбительного контента в прямых трансляциях. «Ваш алгоритм компьютерного зрения должен быть быстрым, и с этим, я думаю, мы можем разобраться, — заявил Кандела. — Но ещё нужно расставлять приоритеты таким образом, чтобы человек, понимающий наши правила, смотрел на вещи и избавлялся от них».

В Twitter добавили блокировку уведомлений по ключевым словам

В Twitter появилась возможность блокировать уведомления по ключевым словам. Решение добавить такую функцию в сервис микроблогов компания принимала больше года, и теперь, наконец, пользователи получили возможность защитить себя от худших проявлений агрессии, с которыми можно столкнуться на платформе.

Теперь любой пользователь может перейти в настройки уведомлений Twitter и выбрать всё то, что он не хочет видеть в своих уведомлениях. Это могут быть слова, фразы, имена пользователей, смайлы или хештеги. После их добавления в чёрный список твиты, содержащие указанные элементы, перестанут отображаться во вкладке уведомлений (или в push-уведомлениях при использовании мобильного приложения Twitter). Тем не менее, такие твиты до сих пор могут появляться в результатах поиска. Компания пообещала в будущем добавить возможность блокировать нежелательные элементы и в других частях сервиса — правда, в каких именно, она не уточнила.

The Verge

The Verge

Обновление также позволяет заблокировать любую переписку, в которую пользователь был втянут не по своей воле. Для этого достаточно нажать на стрелку вниз на твите в переписке и выбрать пункт «приглушить разговор». При желании это действие позже можно отменить.

The Verge

The Verge

Twitter внесла изменения и в систему жалоб на оскорбления, благодаря чему теперь гораздо проще сообщить о притеснениях по таким признакам, как раса, этническая или религиозная принадлежность, национальность, сексуальная ориентация, пол, гендерная идентичность, возраст, инвалидность или заболевание. Помимо этого, компания обучила команду поддержки всем культурным и историческим нюансам встречающихся оскорблений. По словам Twitter, команда эта международная, поэтому некоторые её члены раньше часто не понимали, почему пользователи считают тот или иной контент оскорбительным.

window-new
Soft
Hard
Тренды 🔥