Сегодня 19 марта 2024
18+
MWC 2018 2018 Computex IFA 2018
реклама
Теги → контент
Быстрый переход

Google начнёт вычищать поисковую выдачу от мусорного контента

Google обновит свои алгоритмы ранжирования веб-ресурсов, что снизит в поисковой выдаче количество сайтов с низкокачественным контентом, созданным специально для поисковых систем, а не для пользователей. Эта мера демонстрирует стремление компании бороться с засильем низкокачественного или неоригинального контента, обусловленного, в том числе, развитием искусственного интеллекта (ИИ), к разработке которого Google имеет непосредственное отношение.

 Источник изображения: Lumapoche / Pixabay

Источник изображения: Lumapoche / Pixabay

Проблема усугубляется тем, что в результате активного использования методов оптимизации под требования поисковых систем (SEO) качество поисковой выдачи заметно снизилось. Различные SEO-стратегии, включая создание большого объёма контента для повышения поискового ранжирования или создание сайтов для соответствия специфическим поисковым запросам, привели к тому, что в поисковой выдаче стали преобладать низкокачественные ресурсы. Исследование, проведённое Лейпцигским университетом, Университетом Баухауса в Веймаре и Центром масштабируемого анализа данных и искусственного интеллекта (ScaDS.AI), указывает на то, что Google проигрывает войну с SEO-компаниями.

В ответ на это Google объявила об обновлении своих основных алгоритмов ранжирования, что, как ожидается, приведёт к сокращению числа бесполезных ресурсов в поисковой выдаче на 40 %. Компания также намерена бороться с злоупотреблением репутацией сайтов, когда площадки с собственным качественным контентом могут размещать низкокачественные материалы, предоставленные третьими лицами, с целью заработка на репутации хостинга. В дополнение к этому вводится мера понижения в рейтинге доменов с истёкшим сроком.

При этом Google избегает называть ИИ причиной проблемы. Вместо этого компания заявляет, что хочет «бороться с появляющимися тактиками», такими как «использование автоматизации для масштабного создания низкокачественного или неоригинального контента». Однако какие именно тактики используются для генерации низкопробного контента, остаётся загадкой. Похоже, из-за стремления стать компанией, ассоциируемой с ИИ, Google предпочитает не заострять внимание на отрицательных аспектах этой технологии.

Реакция Google последовала за рядом громких историй, связанных со «спамом» в поисковой выдаче. В одном из постов в социальной сети X было рассказано о «SEO-ограблении», когда веб-сайт, используя ИИ для копирования контента конкурирующего сайта, смог обеспечить себе более высокое место в результатах поиска, буквально «украв» 3,6 млн просмотров. Ещё один пост с сайта обзоров продукции HouseFresh подробно описывал, как Google на самом деле не приоритизирует качественные обзоры, а вместо этого позволяет крупным издателям заполнять первые страницы результатов поиска низкопробными статьями с партнёрскими ссылками.

Google признаёт, что текущая политика компании не наказывает сайты с контентом, сгенерированным ИИ, несмотря на растущую критику со стороны пользователей и экспертов. Если Google не будет достаточно решительна в отношении качества поиска, она рискует потерять пользователей. Если первые 10 ссылок не соответствуют их требованиям, люди могут просто обратиться к ИИ-чат-боту.

X создаст центр модерации контента впервые после покупки соцсети Илоном Маском

Компания X, ранее известная как Twitter, объявила о создании нового центра модерации контента в Остине, штат Техас. Это решение было принято накануне слушаний 31 января в Сенате США, где генеральный директор X Линда Яккарино (Linda Yaccarino) должна будет объяснить сенаторам стратегию компании по борьбе с распространением материалов, касающихся сексуального насилия над детьми (Child Sexual Abuse Material — CSAM).

 Источник изображения: X

Источник изображения: X

Сосредоточенный на контенте, связанном с CSAM, центр станет первым полноценным подразделением по обеспечению безопасности и доверия после масштабных увольнений, проведённых после покупки платформы Илоном Маском (Elon Musk). В новом техасском офисе X планируется трудоустроить сто сотрудников. Новый центр модерации будет первым подобным подразделением с момента, когда Маск реорганизовал команды модерации вскоре после приобретения платформы.

Как сообщает компания X, обновлённая структура команды безопасности будет заниматься не только CSAM, но и другими аспектами модерации контента, включая противодействие разжиганию ненависти. Новый офис в Остине уже упоминается в блоге компании как ключевой элемент в их стратегии борьбы с нежелательным контентом, хотя точные обязанности новой команды и сроки открытия офиса пока не раскрываются.

Дополнительно, Джо Бенаррох (Joe Benarroch), операционный директор X, в интервью Bloomberg подчеркнул, что новый центр будет способствовать улучшению модерации в целом, охватывая широкий спектр задач: от борьбы со спамом и мошенничеством до обеспечения качественной поддержки клиентов.

Объявление о наборе сотрудников для офиса в Остине указывает на многофункциональность новой команды и подчёркивает её значимость в рамках общей стратегии безопасности компании X. Этот шаг демонстрирует решимость социальной сети X встать на защиту безопасности в интернете и готовность к активному участию в решении проблем цифрового мира.

После покупки Twitter Илон Маск уволил 1213 специалистов по модерации контента

В октябре позапрошлого года после длительных попыток сбить цену Илон Маск (Elon Musk) был вынужден купить компанию Twitter на оговорённых ещё в апреле 2022 года условиях, а позже он переименовал соответствующую социальную сеть в X. Расследование австралийских регуляторов позволило выяснить, что с момента перехода компании под контроль Маска он уволил 1213 сотрудников, отвечавших за модерацию контента.

 Источник изображения: Unsplash, charlesdeluvio

Источник изображения: Unsplash, charlesdeluvio

Как поясняет South China Morning Post, соответствующие данные австралийской правительственной организации eSafety Commission удалось получить от руководства X в соответствии с положениями локального Закона об онлайн-безопасности (Online Safety Act). Внимание регуляторов привлекло то обстоятельство, что в последующие за сменой собственника Twitter месяцы на страницах социальной сети заметно увеличилось количество «токсичного» контента.

Австралийским чиновникам удалось получить от X полный расклад по штатному расписанию, описывающий количество специалистов различного профиля, работающих в компании или трудившихся там ранее. Вместе с подрядчиками, ряды персонала X за прошедшее с октября 2022 года время покинули 1213 специалистов по модерации контента. Непосредственно инженерного персонала такого профиля было сокращено около 80 % от изначального количества. По мнению регуляторов, подобные действия нового руководства социальной сети привели к плачевным последствиям и росту систематических злоупотреблений информационной политикой платформы со стороны недобросовестных пользователей.

В октябре прошлого года австралийские власти уже штрафовали X за отсутствие внятных механизмов по борьбе с распространением незаконных материалов с участием несовершеннолетних. Компания Илона Маска не только не выплатила назначенный штраф в размере $388 000, но и выступила со встречной судебной претензией к австралийским регуляторам, которая сейчас рассматривается.

Глава Reddit рассказал о планах ввести ИИ-модерацию — полностью заменять людей не планируется

Администрация Reddit продолжает считать правильным решение о введении платного доступа к API, хотя оно и далось ценой конфликта с частью сообщества — в какой-то момент дошло до восстания модераторов. Но в перспективе платформа может внедрить модерацию на основе алгоритмов искусственного интеллекта, заявил ресурсу Fast Company гендиректор Reddit Стив Хаффман (Steve Huffman).

 Источник изображения: Brett Jordan / unsplash.com

Источник изображения: Brett Jordan / unsplash.com

В мае администрация платформы объявила, что доступ к API будет платным. Это было сделано из-за того, что на контенте ресурса начали обучать модели ИИ. Хаффман подчёркивает, что Reddit является открытой платформой, но её контентом пользовались не только мелкие игроки, но и крупнейшие компании мира. Из-за введения платы за доступ к API сообщество лишилось большинства неофициальных приложений, некоторые из которых считались более удобными, чем официальные.

Гендиректор продолжает считать, что это решение было правильным, но донести его до сообщества можно было и по-другому, чтобы избежать конфликта или хотя бы смягчить его. Тогда не было бы восстания модераторов, которые начали злоупотреблять своими полномочиями, чтобы саботировать работу платформы: одни сообщества закрывались, а другие получали «взрослую» пометку NSFW, не позволявшую размещать в них рекламу.

А в перспективе на Reddit, заявил Хаффман, появятся механизмы модерации при помощи алгоритмов ИИ — они не заменят живых людей, а будут оказывать им помощь. В разных сообществах действуют разные правила, «иногда строгие, а иногда и эзотерические». Новички порой не могут даже начать общение в таких сообществах, потому что их публикации оперативно удаляются. В таких случаях ИИ окажется полезным — он будет указывать пользователям на нарушения правил ещё до публикации постов, и модераторам не потребуется делать это самостоятельно.

Линда Яккарино отказалась покидать пост главы X на фоне скандала с неонацистским контентом

По утверждению независимых источников, за последние дни множество руководителей компаний и бывших коллег главы X Линды Яккарино (Linda Yaccarino) в частном порядке призвали её уйти в отставку, чтобы «спасти репутацию». Такие советы Линда получала даже на свадьбе своей дочери в субботу. Однако она отказалась покинуть компанию, заявив, что «верит в миссию X и её сотрудников». Напомним, социальная сеть X подверглась обвинениям в некачественном модерировании националистического контента, а Маска назвали на этом фоне антисемитом.

 Источник изображения: Associated Press

Источник изображения: Associated Press

Некоммерческая группа левого толка Media Matters for America на прошлой неделе опубликовала отчёты, которые демонстрируют рекламу на платформе X ведущих брендов рядом с постами, пропагандирующими «пронацистский» и «белый националистический контент». Эти обвинения побудили такие бренды, как IBM, Apple, Walt Disney, Comcast и Warner Bros, приостановить свою рекламу на платформе X, опасаясь соседства с «сомнительными материалами».

Многие компании сейчас пытаются дистанцироваться от владельца X Илона Маска (Elon Musk). Маск, самопровозглашённый «сторонник свободы слова», ослабил политику модерации и сократил ресурсы и персонал, обеспечивающие безопасность. Бренды опасаются жалоб акционеров и потенциальных бойкотов от своих клиентов, если продолжат размещать рекламу на платформе. Критики Маска считают, что он «должен найти новую модель дохода, поскольку он убил рекламу на платформе, и точка».

X нанял Линду Яккарино в июне, чтобы вернуть рекламодателей на платформу. До этого Линда работала руководителем отдела рекламы в NBCUniversal. Благодаря своим налаженным связям среди маркетологов крупных компаний, ей неоднократно приходилось преодолевать неприятие ими изменений, внесённых Маском в платформу, и противоречивых комментариев, которые он публиковал.

Яккарино утверждает, что за время её пребывания у руля социальной сети, показатели безопасности X улучшились. На прошлой неделе в ответ на обвинения в адрес платформы она заявила: «X предельно ясно рассказала о наших усилиях по борьбе с антисемитизмом и дискриминацией. Этому абсолютно нет места нигде в мире».

В воскресенье Маск написал в своём аккаунте X: «На прошлой неделе в СМИ появились сотни фальшивых историй, в которых утверждалось, что я антисемит. Нет ничего более далёкого от правды. Я желаю человечеству только лучшего, процветающего и захватывающего будущего для всех». Днём ранее Маск пообещал подать «термоядерный иск» против Media Matters за то, что, по его словам, было «мошеннической атакой» на X. Исполнительный директор Media Matters Анджело Карузоне (Angelo Carusone) в свою очередь уверен в собственной правоте и утверждает, что легко выиграет в суде.

Google ужесточит модерацию ИИ-контента в Android-приложениях с 2024 года

Google установит новые требования к модерации контента для приложений на Android, использующих ИИ. С начала следующего года разработчики таких приложений должны внедрить функцию для жалоб на оскорбительный или спорный материал непосредственно в пользовательском интерфейсе. Эти изменения затронут не только чат-боты на основе ИИ, но и приложения, создающие визуальный и аудио контент. Инициатива направлена на борьбу с недопустимым контентом, в том числе с дипфейками и дезинформацией.

 Источник изображения: dassel / Pixabay

Источник изображения: dassel / Pixabay

Google уточнила, что новая политика будет применяться не ко всем приложениям с ИИ. Она коснётся чат-ботов, приложений для создания изображений, голосового и видеоконтента. Приложения, которые только хранят сгенерированный ИИ-контент или используют ИИ для обобщения текстовых материалов, останутся вне зоны действия новых правил.

Google акцентирует внимание на определённых категориях контента, требующих строжайшей модерации. В этот список входят фальшивые видео или изображения, созданные без согласия изображённых на них людей, а также записи реальных людей, применяемые в мошеннических целях.

Кроме того, компания будет особенно внимательно следить за распространением ложной или вводящей в заблуждение информации, связанной с выборами. Не менее строгий контроль установлен и для приложений, в которых генеративный ИИ используется преимущественно для сексуального удовлетворения, а также создания вредоносного кода.

В своём заявлении Google подчеркнула, что генеративный ИИ является быстро развивающейся категорией приложений, что даёт основания полагать, что компания может пересмотреть свою политику в области ИИ по мере дальнейшего развития технологии. Помимо новых правил в отношении контента, генерируемого ИИ, Google также расширила политику разрешений на использование фото- и видеоматериалов в Play Store, ограничивая доступ Android-приложений к данным.

«Фотоматериалы и видеозаписи на устройствах пользователей являются их личной и конфиденциальной информацией, требующей максимально ответственного отношения, — подчеркнула компания в своём заявлении. — Такие данные создают потенциальную уязвимость для пользователей в случае утечек или других форм эксплуатации. Ограничение доступа к ним не только повышает уровень безопасности пользователей, но и снижает нагрузку на разработчиков в части обработки чувствительной информации».

VK вдвое увеличила свою сеть доставки контента — скорость загрузки в России выросла на 10–100 %

Компания VK в два раза увеличила собственную CDN-сеть с момента её запуска в 2021 году. Она помогает доставлять пользователям «тяжёлый» контент и обеспечивает текущие потребности IT-холдинга. По данным источника, знакомого с IT-инфраструктурой компании, в настоящее время CDN-сеть VK состоит из 10 тыс. серверов и 100 узлов.

 Источник изображения: ilgmyzin/unsplash.com

Источник изображения: ilgmyzin/unsplash.com

VK объявила о запуске CDN-сети 1 октября 2021 года. На тот момент она насчитывала 50 узлов, расположенных в России и странах СНГ, и обеспечивала работу видеосервиса «ВКонтакте» и видео в соцсети «Одноклассники». Географически распределённая сеть сформирована из серверов, находящихся в разных точках России и мира, благодаря чему видео и трансляции стартуют в среднем до полутора раз быстрее вне зависимости от расстояний. Также отмечалось, что в среднем на 20 % повысилось качество видео, доступного пользователю в условиях его сети, и снизилось число буферизаций. На юге России скорость загрузки выросла на 10-20 %, в Сибири — на 30-50 %, на Дальнем Востоке — на 100 %.

Напомним, сеть CDN (content delivery network) представляет собой сеть географически распределённых серверов, которые обеспечивают быструю доставку контента и оптимизируют нагрузку на инфраструктуру провайдера. Благодаря CDN востребованный контент загружается не с центрального сервера, который может быть расположен за тысячи километров, а из ближайшей к пользователю точки сети.

По данным источника, во втором квартале 2023 года ежедневная аудитория всех сервисов VK составила 76 млн пользователей, а средняя дневная аудитория «ВКонтакте» в России выросла на 10 % до 54,2 млн пользователей в сравнении с аналогичным периодом прошлого года. За этот же период среднесуточное количество просмотров «VK Видео» увеличилось на 14 % до 1,91 млрд просмотров. При этом средняя ежедневная аудитория платформы составляет около 35 млн пользователей.

О планах VK по расширению своей CDN-сети сообщалось весной этого года. СМИ писали, что, возможно, VK увеличивает количество CDN-серверов в качестве превентивной меры, чтобы создать некий задел на случай блокировки YouTube. Несмотря на слухи о возможной блокировке YouTube, представители властей регулярно заверяют в том, что на данный момент об этом не идёт речи, поскольку в России нет адекватной и полноценной замены.

Владелец ТНТ и Rutube создаст студию по производству контента с помощью ИИ

Холдинг «Газпром-Медиа» (владеет каналами НТВ, ТНТ и ТВ-3, кинокомпанией «Централ Партнершип», хостингом Rutube и др.) запустит экспериментальную студию производства контента с помощью нейросетей. Об этом в беседе с журналистами на Восточном экономическом форуме рассказал глава принадлежащей холдингу цифровой лаборатории D. Lab Эдуард Маас.

 Источник изображения: steve_a_johnson / Pixabay

Источник изображения: steve_a_johnson / Pixabay

Согласно имеющимся данным, в студии будут использоваться около 20 моделей искусственного интеллекта, включая проекты Open Source (например, генератор изображений Stable Diffusion и языковая модель LLaMA) и собственные разработки «Газпром-Медиа». Студия займётся производством анимации с использованием генеративных алгоритмов, а также будет создавать виртуальных ведущих, перерабатывать архивный контент, работать над рекламными спецпроектами. Объём инвестиций, которые будут направлены для развития проекта, озвучен не был.

Господин Масс считает, что технологии создания контента с помощью генеративных нейросетей будут полезны продакшен-студиям, рекламным агентствам и блогерам, в первую очередь использующим видеохостинг Rutube и социальную сеть Yappy. В дополнение к этому холдинг будет предлагать свои технологии внешним заказчикам, включая представителей банковского сектора и госкорпорации. В настоящее время компания ведёт переговоры с одним из крупнейших банков с точки зрения маркетинга и крупным издательством, где генеративные алгоритмы могут использоваться для иллюстрации книг. Сам же холдинг может использовать эти технологии для создания промо в соцсетях, генерации анимации из аудио, создания виртуальных ведущих и др.

Для производства «сериального хита или топового шоу» предложенные технологии использоваться не будут, уточнил господин Маас. При этом искусственный интеллект может существенно снизить затраты на отдельные производственные процессы. К примеру, такие технологии можно задействовать для отрисовки фонов, персонажей и деталей видеоряда. Нейросети также могут быть полезными для дорисовки вертикальных видео, чтобы делать их горизонтальными, озвучивания произведений реалистично синтезированными голосами и др.

OpenAI предложила GPT-4 на роль беспристрастного модератора

OpenAI рассказала, что её разработки способны облегчить решение одной из самых сложных и неприятных технических задач — задачи модерации контента. Большая языковая модель GPT-4 способна заменить десятки тысяч модераторов-людей, демонстрируя столь же высокую точность и даже большую последовательность.

 Источник изображения: ilgmyzin / unsplash.com

Источник изображения: ilgmyzin / unsplash.com

Компания OpenAI сообщила в корпоративном блоге, что уже использует GPT-4 для уточнения собственной политики в отношении контента, его маркировки и принятия отдельных решений. Разработчик даже привёл ряд преимуществ искусственного интеллекта перед традиционными подходами к модерации контента.

Во-первых, люди интерпретируют политику по-разному, тогда как машины последовательны в своих суждениях. Рекомендации по модерации могут быть объёмными и постоянно меняться — людям требуется много времени, чтобы научиться и адаптироваться к переменам, а большие языковые модели реализуют новые политики мгновенно. Во-вторых, GPT-4 способен помочь разработать новую политику в течение нескольких часов. Процесс составления маркировки, сбора отзывов и уточнений обычно занимает несколько недель или даже месяцев. В-третьих, нельзя забывать о психологическом благополучии работников, которые по долгу службы постоянно сталкиваются с вредоносным контентом.

Популярные соцсети существуют уже почти два десятилетия, не говоря о прочих онлайн-сообществах, но модерация контента по-прежнему остаётся одной из сложнейших задач для онлайн-платформ. Meta, Google и TikTok сформировали целые армии модераторов, которым приходится просматривать ужасный и часто травмирующий контент. Большинство из них проживает в развивающихся странах с низкой заработной платой, работает в аутсорсинговых компаниях и пытается самостоятельно справляться с психологическими травмами, получая минимальный объём помощи.

 Источник изображения: D koi / unsplash.com

Источник изображения: D koi / unsplash.com

OpenAI и сама в значительной степени ещё полагается на человеческий ресурс — она нанимает работников из африканских стран для комментирования и разметки контента. Этот контент может быть проблемным, что делает работу таких сотрудников напряжённой при низкой зарплате. А вышеупомянутые Meta, Google и TikTok в дополнение к модераторам-людям пользуются услугами ИИ-моделей собственной разработки, поэтому предложенное OpenAI решение окажется полезным для небольших компаний, у которых нет ресурсов на разработку собственных систем.

Каждая платформа признаёт, что идеальных механизмов модерации в больших масштабах не существует: ошибки совершают и люди, и машины. Процент ошибок может быть низким, но в открытый доступ по-прежнему прорываются миллионы потенциально опасных публикаций — и, вероятно, такое же число безвредного контента скрывается или удаляется. Плюс остаётся «серая зона» недостоверного или агрессивного контента, который отвечает требованиям политики модерации, но озадачивает автоматизированные системы — такой контент сложно оценивать даже модераторам-людям, вот и машины часто совершают ошибки. То же относится к публикациям сатирического характера и материалам, документирующим преступления или превышения полномочий сотрудниками правоохранительных органов. Наконец, нельзя забывать и о внутренних проблемах, характерных для систем ИИ — «галлюцинациях» и «дрейфе», которые также способны затруднить работу ИИ-модераторов.

МТС и VK вдвое расширят сети доставки контента из-за роста трафика и ухода западных сервисов

РБК стало известно, что сразу несколько компаний в России расширяют сети доставки контента (CDN), чтобы ускорить загрузку видео и изображений для пользователей на фоне ухода с отечественного рынка зарубежных провайдеров и в связи с ростом трафика.

 Источник изображения: Википедия

Источник изображения: Википедия

В частности, МТС намерена более чем вдвое увеличить пропускную способность используемых сетей доставки контента, о чём сообщается в документах компании, поданых Комиссии по ценным бумагам и биржам США (акции МТС ранее торговались на Нью-Йоркской бирже). По словам компании, расширение CDN вызвано развитием проекта KION — онлайн-кинотеатра МТС.

Ранее, в марте Forbes со ссылкой на свои источники сообщил о работе VK над созданием собственного CDN-сервиса в рамках подготовки к «скачку трафика в случае отключения YouTube». Впрочем, источники РБК на IТ-рынке утверждают, что VK уже несколько лет занимается развитием собственной CDN, и сейчас решил увеличить её примерно вдвое с нынешних более чем 100 узлов связи.

Представитель VK сообщил РБК, что аудитория сервисов и объём потребляемого трафика продолжают расти, как и в прошлом году. «Чтобы обеспечить комфортное пользование действующими и новыми продуктами, VK последовательно наращивает пропускную способность, в том числе и за счёт расширения сети CDN. VK использует собственную сеть CDN, развитием которой занимается с 2020 года», — сказал он, не вдаваясь в подробности.

Гендиректор «EdgeЦентра» Михаил Шурыгин отметил, что с уходом иностранных сервисов из России выросла нагрузка на отечественные платформы, в связи с чем те занялись расширением собственной CDN, чтобы минимизировать задержки при доставке контента. Он добавил, что расширение не исключает возможность использования CDN других компаний. «Многие высоконагруженные сервисы используют несколько CDN-провайдеров, чтобы зарезервировать мощности на случай скачков и непредвиденных ситуаций», — сообщил он.

Директор по продуктам Selectel Константин Ансимов указал на то, что для крупных компаний, распространяющих контент, создание собственных CDN целесообразно при определённых объёмах трафика, а для некоторых фирм запуск CDN может быть связан с желанием монетизировать собственную сетевую и серверную инфраструктуру.

В прошлом году замглавы комитета Госдумы по информполитике Антон Горелкин предложил создать национальную систему доставки контента. Он отметил, что пользователи продолжают пользоваться иностранными сайтами, в том числе из-за преимущества в скорости по сравнению с отечественными аналогами. Как утверждает один из участников рынка, сейчас обсуждается возможность создания консорциума крупнейших российских CDN-провайдеров, который будет регламентировать работу сетей доставки контента.

Twitter будет помечать твиты с ограниченной видимостью

Социальная сеть Twitter будет добавлять особые ярлыки к твитам, которые отмечаются модераторами платформы для ограничения их видимости. В компании это нововведение назвали шагом к «свободе слова, а не доступности».

 Источник изображения: PhotoMIX-Company/pixabay.com

Источник изображения: PhotoMIX-Company/pixabay.com

На прошлой неделе соцсеть впервые сделала объявление о грядущих изменениях, направленных на то, чтобы ограничить доступ пользователей платформы к публикациям с ненавистническим контентом. «Ограничение доступа к твитам помогает уменьшить сложности при модерации контента, когда возникает вопрос «оставить или удалить», и поддерживает наш подход «свобода слова против свободы охвата», — сказано в заявлении Twitter.

Ярлыки сообщений с ограниченным доступом будут отображаться как авторам контента, так и другим пользователям. Обычно в таких твитах появляется отметка: «Видимость ограничена: этот твит может нарушать правила Twitter в отношении ненавистнического поведения». Публикации с ограниченным доступом не будут отображаться в результатах поиска, рекомендациях и лентах. Кроме того, соцсеть не будет размещать рекламу рядом с такими твитами.

Компания признаёт, что при маркировке твитов могут возникать ошибки, поэтому авторы публикаций, которые посчитают, что их сообщения по ошибке отмечены ярлыком ограниченной видимости, смогут оспорить это решение модераторов. При этом Twitter подчёркивает, что обращение в поддержку по данному вопросу не гарантирует того, что ярлык ограниченной видимости будет снят с того или иного твита.

Евросоюз рекомендовал Twitter больше полагаться на людей в сфере модерации контента

К сентябрю этого года все социальные сети, функционирующие в юрисдикции Евросоюза, должны привести свою деятельность в соответствие с Законом о цифровых услугах (DSA), в противном случае их владельцы будут штрафоваться на суммы, составляющие до 6 % годового оборота на мировом рынке. Местные регуляторы рекомендовали Илону Маску (Elon Musk) активнее использовать человеческий труд для модерации контента.

 Источник изображения: Carina Johansen, NTB, Reuters

Источник изображения: Carina Johansen, NTB, Reuters

Как поясняет Financial Times, европейских регуляторов не совсем устраивает политика Twitter, которая предусматривает использование труда немногочисленных добровольцев для модерации контента, а также стремление заменить их алгоритмами искусственного интеллекта. Европейские чиновники считают, что Twitter следует нанимать больше профессиональных модераторов и уделять внимание проверке информации, распространяемой со страниц социальной сети.

Во время недавних переговоров с европейскими чиновниками представители Twitter получили одобрение практики использования труда добровольных модераторов в рамках концепции Community Notes, но выслушали замечание о том, что таких помощников не так много для эффективной борьбы с распространением дезинформации. Кроме того, продолжает оставаться проблемой эффективная модерация контента на языках, отличных от английского. Представители Еврокомиссии выразили надежду, что платформы обеспечат выделение адекватных ресурсов для приведения своей деятельности в соответствие с требованиями регионального законодательства. Принятие на работу достаточного количества персонала является одним из залогов успеха на этом направлении, как считают чиновники.

Власти Германии не уверены в способности Twitter выполнять требования к модерации контента после массовых увольнений

Покупая Twitter, Илон Маск (Elon Musk) ставил своей целью «обеспечить неприкосновенность свободы слова». На этой неделе его компания уже столкнулась с проблемами в Германии, где определённые виды высказываний в интернете запрещены законом. Ожидается, что требования к модерации контента по всей Европе ещё ужесточатся, когда в сентябре вступят в силу правила, связанные с Законом о цифровых услугах.

 Источник изображения: pexels.com

Источник изображения: pexels.com

На глобальные интернет-платформы, такие, как Twitter, распространяются строгие юридические требования в отношении удаления разжигающих ненависть высказываний и ложной информации в Германии. Немецкие законодатели допросили главу Twitter по делам с европейским правительством Ронана Костелло (Ronan Costello) о планах компании по модерации контента во время слушаний комитета в среду.

Во время слушаний члены цифрового комитета выразили оправданный скептицизм, снова и снова пытаясь прояснить, как именно Twitter сможет удовлетворить более строгие требования к модерации. В ноябре 2022 года было уволено около половины сотрудников Twitter, а затем последовала ещё одна волна сокращений, это болезненно сказалось на работе групп модерации контента. При этом Twitter не выплачивает арендную плату, задерживает финансовую отчётность, и является единственной компанией, которая не представила Евросоюзу результаты выполнения требований по борьбе с дезинформацией.

Костелло сообщил Бундестагу, что правоприменительный подход Twitter к немецкому законодательству остаётся неизменным. Он пояснил, что с июля по декабрь над модерацией немецкого контента в Twitter работало 150 человек, но не смог ответить, сколько сотрудников занято этим сейчас. Костелло сослался на использование искусственного интеллекта и привлечение пользователей к проверке фактов под названием «Заметки сообщества» (Community Notes), продвигаемую Маском, в качестве инструментов, которые должны повысить качество модерации. По его словам, вскоре Twitter запустит «Заметки сообщества» в Европе. Нужно отметить, что версия, доступная в настоящее время в США, имеет серьёзные ограничения.

Исторически интернет-компании годами боролись с немецкими правилами в отношении модерации контента. Вступивший в силу в 2017 году в стране Закон о защите прав пользователей Сети грозит штрафом в размере до 50 миллионов евро компании, которая не фильтрует и не удаляет незаконный контент.

 Источник изображения: pexels.com

Источник изображения: pexels.com

Законодатели, похоже, не верят в серьёзность намерений Twitter по модерации контента. В конце января на компанию подали в суд в Берлине из-за предполагаемых упущений. В жалобе приводятся шесть примеров антисемитских постов, все они были опубликованы после того, как компания была приобретена Маском. Один из постов даже содержит отрицание Холокоста, а в Германии это является уголовным преступлением.

Конфронтация в немецком парламенте — вероятный предшественник того, с чем Маску придётся столкнуться на слушаниях в Брюсселе. Игнорирование требований Евросоюза может очень дорого ему обойтись.

Google: если IT-гигантов заставят отвечать за публикуемый контент, это «перевернёт интернет»

В компании Google уверены, что расширение ответственности крупных интернет-платформ за модерацию публикуемого на них контента не даст ожидаемого результата. По мнению IT-гиганта, такой подход приведёт к появлению в Сети множества порталов, не контролирующих контент.

 Источник изображения: Justin Sullivan / Getty Images

Источник изображения: Justin Sullivan / Getty Images

Верховный суд США рассматривает дело о расширении ответственности интернет-платформ за публикуемые на них материалы. Речь идёт о разбирательстве, которое началось в 2016 году по заявлению семьи Ноэми Гонсалес, которая за год до того погибла во время теракта, устроенного группировкой «Исламское государство» (организация признана террористической и запрещена в России). Отец Ноэми обвинил Google, Twitter и Facebook в том, что они позволяют террористам использовать свои платформы для публикации контента экстремистского характера.

«Google разделяет прибыль с ИГ и другими экстремистскими группами. Размещая свои ролики на сервисах, таких как YouTube, экстремисты подключают рекламу Google, от которой компания тоже имеет прибыль», — заявил адвокат семьи погибшей.

Действующее в США законодательство освобождает интернет-платформы от ответственности за контент, размещаемый третьими лицами. Соответствующая норма действует с 1996 года. В прошлом году истцы заявили, что упомянутая норма не освобождает их от ответственности за появление такого контента в рекомендациях. Истцы считают, что хоть компании и нельзя привлечь к ответственности за публикацию экстремистских роликов третьими лицами, они должны отвечать за появление таких материалов в рекомендациях для пользователей и подборках.

В это же время Google утверждает, что исполнение требований истцов может нарушить всю систему работы интернета и модерирования контента. В компании уверены, что сокращение мер ограничения ответственности может привести к тому, что крупные интернет-компании будут блокировать весь спорный контент, в том числе «спорные политические выступления». В это же время небольшие компании откажутся от модерации контента, стараясь избежать ответственности за любые свои решения. Эффект от этого будет прямо противоположный тому, чего хотят истцы.

«Суд должен отказаться от новых и непроверенных теорий, которые рискуют превратить сегодняшний интернет в вынужденный выбор между чрезмерно модерируемыми крупными сайтами и небольшими порталами, наводнёнными нежелательным контентом», — заявили в Google.

YouTube улучшила автоматическую модерацию комментариев: за оскорбления будут сначала предупреждать, а потом банить на сутки

Администрация YouTube доложила об улучшении работы алгоритмов автоматической модерации на платформе: теперь они эффективнее справляются со спамом и оскорблениями в комментариях. Особо активным сетевым хулиганам выносятся предупреждения и вводятся временные ограничения.

 Источник изображения: Christian Wiediger / unsplash.com

Источник изображения: Christian Wiediger / unsplash.com

За первую половину года на YouTube были удалены более 1,1 млрд содержащих спам комментариев — спамеры постоянно меняют тактику, вот и администрации платформы приходится постоянно совершенствовать модели машинного обучения, помогая им эффективнее обнаруживать нежелательный контент. Защитные ИИ-алгоритмы работают не только в комментариях под видео, но и в чатах прямых трансляций — с очередным обновлением общение во время эфиров станет комфортнее для всех.

Кроме того, если система удалила несколько комментариев оскорбительного характера от одного пользователя, ему будет вынесено предупреждение о недопустимости нарушения политики ресурса. Если он продолжит размещать контент оскорбительного характера, на его аккаунт будут накладываться ограничения, и он не сможет оставлять комментарии в течение 24 часов. Как показало проведённое администрацией YouTube исследование, эти меры снижают вероятность того, что пользователь будет оставлять подобные сообщения снова. Пока предупреждения выносятся только в англоязычном сегменте платформы, но в перспективе функция расширится и на другие её сегменты.


window-new
Soft
Hard
Тренды 🔥
Всё своё ношу с собой: Nvidia представила контейнеры NIM для быстрого развёртывания оптимизированных ИИ-моделей 7 ч.
Nvidia AI Enterprise 5.0 предложит ИИ-микросервисы, которые ускорят развёртывание ИИ 8 ч.
NVIDIA запустила облачную платформу Quantum Cloud для квантово-классического моделирования 8 ч.
NVIDIA и Siemens внедрят генеративный ИИ в промышленное проектирование и производство 8 ч.
SAP и NVIDIA ускорят внедрение генеративного ИИ в корпоративные приложения 9 ч.
Microsoft проведёт в мае презентацию, которая положит начало году ИИ-компьютеров 10 ч.
Амбициозная ролевая игра Wyrdsong от бывших разработчиков Fallout: New Vegas и Skyrim в опасности — в студии прошли массовые увольнения 10 ч.
THQ Nordic раскрыла системные требования Alone in the Dark на все случаи жизни — для игры на «ультра» понадобится RTX 4070 Ti 11 ч.
Сливать игры до релиза станет опаснее — создатели Denuvo рассказали о технологии TraceMark for Games 11 ч.
Календарь релизов 18–24 марта: Dragon's Dogma 2, Rise of the Ronin, Horizon Forbidden West на ПК 13 ч.