Новости Software

Facebook* будет использовать ИИ для быстрой модерации контента

Социальная сеть Facebook* будет использовать новый алгоритм машинного обучения для модерирования публикуемого пользователями контента. Первоочередной задачей алгоритма станет поиск наиболее травмирующих публикаций для их последующего удаления.

 Источник изображения: Business Insider

Источник изображения: Business Insider

Сегодня контент, нарушающий правила соцсети (спам, разжигание ненависти, пропаганда насилия и т.д.) обычно помечают сами пользователи или алгоритмы машинного обучения. С наиболее очевидными случаями система справляется автоматически, например, путём удаления нарушающих правила платформы публикаций или блокировкой аккаунта пользователя, опубликовавшего этот контент. Остальные случаи попадают в очередь для последующей более детальной проверки модераторами.

Сейчас в Facebook* работают около 15 тыс. модераторов по всему миру. Соцсеть неоднократно критиковали за то, что администрация платформы недостаточно их поддерживает и не нанимает большее количество персонала. Задача модераторов заключается в сортировке постов с жалобами, а также принятии решения о том, нарушают ли они правила соцсети или нет.

Ранее модераторы рассматривали посты по мере публикации. Facebook* решил изменить подход для того, чтобы в первую очередь рассматривать публикации, которые набирают больший охват и, соответственно, способны нанести больше вреда. Модель искусственного интеллекта (ИИ) будет использовать три критерия для отбора наиболее вредоносных публикаций: вирусность, сюжет публикации и вероятность того, что она нарушает правила. После этого ИИ будет помечать такие публикации, чтобы они поднимались выше по очереди рассмотрения модераторами.

«Весь нарушающий правила соцсети контент будет по-прежнему рассматриваться людьми, однако использование новой системы позволит более эффективно расставлять приоритеты в этом процессе», — прокомментировали в Facebook*.

По мнению соцсети, новый подход поможет быстрее реагировать и разбираться с нарушающими правила публикациями, имеющими широкий охват.


* Внесена в перечень общественных объединений и религиозных организаций, в отношении которых судом принято вступившее в законную силу решение о ликвидации или запрете деятельности по основаниям, предусмотренным Федеральным законом от 25.07.2002 № 114-ФЗ «О противодействии экстремистской деятельности».

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме
window-new
Soft
Hard
Тренды 🔥
Готический роглайт Vampire Survivors получил обновление с новыми механиками и бонусным уровнем 31 мин.
Технология NVIDIA Reflex пришла в Warstride Challenges, а скоро доберётся до My Time at Sandrock и Icarus 51 мин.
Калифорния намерена усилить ответственность социальных медиа за формирование зависимостей у детей 2 ч.
К своей первой годовщине снайперский шутер Sniper Ghost Warrior Contracts 2 достиг 1 млн проданных копий 3 ч.
Поддержка технологии NVIDIA DLSS заявлена для ещё 12 игр 3 ч.
Минцифры РФ летом подготовит план замены зарубежного ПО 3 ч.
Сила мемов: с прошлого апреля число активных игроков в экшене Metal Gear Rising: Revengeance выросло в десять раз 4 ч.
AMD выпустила драйвер Adrenalin Edition 22.5.2 с поддержкой новых игр, оптимизациями и исправлениями старых ошибок 4 ч.
Нейросеть написала музыку на основе больших данных о городах России 4 ч.
«Думаю, никто не рассчитывал на такой крупный старт»: создатели V Rising прокомментировали первые успехи игры 6 ч.
Учёные создали зеркало из алмаза, которое не сгорело под сверхмощным лазером 5 мин.
MSI подсмотрела у Gigabyte и делает свою материнскую плату с разъёмами на изнанке 15 мин.
ASUS представила 27-дюймовый OLED-монитор ProArt PA27DCE с разрешением 4К и откликом в 0,1 мс 30 мин.
MSI подтвердила поддержку профилей AMD EXPO для разгона памяти DDR5 в системах с Ryzen 7000 38 мин.
Samsung инвестирует $356 млрд в производство чипов и другие приоритетные направления до 2026 года 2 ч.
Созданный в России плазменный ракетный двигатель VERA прошёл огневые испытания и готов к тестам в космосе 2 ч.
SpaceX стала предлагать подключение к Starlink для домов на колёсах, но за дополнительные $25 в месяц 2 ч.
MSI опубликовала видеоинструкцию по установке процессора в Socket AM5 и показала образец 16-ядерного Ryzen 7000 2 ч.
Selectel приступила к строительству в Москве нового дата-центра на 2 тысячи стоек 3 ч.
Philips выпустит OLED-телевизоры с поддержкой NVIDIA GeForce NOW и G-Sync 3 ч.