Новости Software

ИИ помогает Facebook* обнаруживать и удалять до 96,8% запрещенного контента

Вчера Facebook* опубликовала очередной отчёт об обеспечении соблюдения стандартов сообщества социальной сети. Компания приводит данные и показатели за временной промежуток с января по март и уделяет особое внимание общему объёму запрещённого контента, попадающего на Facebook*, а также проценту от него, который социальная сеть успешно удалила ещё на этапе публикации или хотя бы до того, как его успел увидеть случайный пользователь социальной сети. Facebook* отмечает особую роль искусственного интеллекта (ИИ), без которого компания просто не справилась бы с фильтрацией такого безумного количества контента.

 Проявления ненависти, насилие, торговля наркотиками и оружием, сексуальная эксплуатация и многое другое, что ИИ помогает *** блокировать до того, как кто-либо успеет столкнуться с таким контентом

Проявления ненависти, насилие, торговля наркотиками и оружием, сексуальная эксплуатация и многое другое, что ИИ помогает Facebook* блокировать до того, как кто-либо успеет столкнуться с подобным недопустимом контентом

Как утверждает Facebook*, искусственный интеллект и машинное обучение помогли значительно сократить количество запрещённого контента в социальной сети. В шести из девяти категорий, отслеживаемых в отчёте, компания сообщает, что при помощи ИИ она смогла предварительно обнаружить 96,8 % недопустимых публикаций и удалить их до того, как какой-либо человек успел их заметить (по сравнению с 96,2 % в 4 квартале 2018 года). Что касается агрессивных высказываний, то в отчёте говорится, что искусственный интеллект помог идентифицировать 65 % из более четырех миллионов подобных сообщений, удаляемых из Facebook* каждый квартал, по сравнению с 24 % чуть более года назад и 59 % в 4 квартале 2018 года.

Facebook* также использует ИИ для выявления сообщений, личных объявлений, фотографий и видео, которые нарушают правила по рекламе и продаже запрещённых товаров, таких как наркотики и огнестрельное оружие. В первом квартале 2019 года компания заявила, что приняла меры в отношении около 900 000 публикаций, связанных с продажами наркотиков, из которых 83,3 % были обнаружены при помощи искусственного интеллекта. За этот же период Facebook* также обнаружила и удалила около 670 000 публикаций о продаже огнестрельного оружия, из которых 69,9 % были обработаны до того, как модераторы или пользователи могли бы столкнуться с ними.

Различные улучшения в алгоритмах искусственного интеллекта привели к снижению общего объёма запрещённого контента, просматриваемого в Facebook*. По оценкам компании, на каждые 10 000 посещений социальной сети только от 11 до 14 пользователей столкнулись с контентом, имеющим порнографический характер, и только 25 могли заметить публикации содержащие жестокость и насилие. Что касается терроризма, наготы детей и сексуальной эксплуатации, то эти цифры ещё ниже. Facebook* сообщает, что в 1 квартале 2019 года на каждые 10 000 просмотров социальной сети менее трёх приходились на подобный контент.

«Благодаря упреждающему отслеживанию постов с нарушениями, эта технология позволяет нашей команде сфокусироваться на выявлении тенденций того, как нарушители пытаются обойти наши ограничения», — написал в своем блоге вице-президент Facebook* в области безопасности контента Гай Розен (Guy Rosen). «Мы продолжаем инвестировать в технологии, чтобы расширить наши возможности по обнаружению недопустимого контента на разных языках и в разных регионах».

Ещё одно направление, в котором Facebook* использует искусственный интеллект — это спам-аккаунты. На ежегодной конференции разработчиков F8 в Сан-Франциско технический директор компании Майк Шропфер (Mike Schroepfe) сообщил, что в течение одного квартала Facebook* блокирует более миллиарда спам-аккаунтов, более 700 миллионов фальшивых аккаунтов и десятки миллионов фрагментов контента, содержащих обнажённые тела и насилие. По его словам, ИИ является главным источником обнаружения и противодействия в данных категориях. Если говорить о точных цифрах, то Facebook* заблокировала 1,2 миллиарда учетных записей в 4 квартале 2018 года и 2,19 миллиарда в 1 квартале 2019 года.


* Внесена в перечень общественных объединений и религиозных организаций, в отношении которых судом принято вступившее в законную силу решение о ликвидации или запрете деятельности по основаниям, предусмотренным Федеральным законом от 25.07.2002 № 114-ФЗ «О противодействии экстремистской деятельности».

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме
window-new
Soft
Hard
Тренды 🔥