Видеоплатформа YouTube анонсировала новую экспериментальную функцию, «направленную на обеспечение более безопасного поиска для всех пользователей». Сервис начнёт размывать превью изображений видео в результатах поиска по некоторым запросам, «которые часто включают сексуальные темы».

Источник изображения: YouTube

Согласно обновлению в разделе Community техподдержки платформы, новая функция в настоящий момент доступна для ограниченного круга пользователей. Сервис не уточняет, какие именно видео с сексуальным контентом будут отображаться с размытыми миниатюрами в результатах поиска, однако отмечает, что названия видео, название канала, опубликовавшего ролик, а также его описание останутся видимыми. Пользователи также смогут отключить размытость в настройках.

Целью ограниченного тестового внедрения новой функции является стремление платформы «понять, помогает ли она пользователям избегать случайного просмотра контента, который может соответствовать принципам сообщества YouTube, но в то же время быть деликатным по своей природе».

В отличие от функции безопасного поиска, которая может как размывать, так и отфильтровывать результаты в поисковой системе Google, новая экспериментальная функция YouTube не будет скрывать результаты. В текущем виде она предназначена для обеспечения дополнительного уровня защиты, чтобы дети или ничего не подозревающие пользователи не сталкивались с потенциально нежелательным контентом сразу же при просмотре результатов поиска.

Группа из восьмерых учёных и специалистов в области кибербезопасности обнаружила уязвимость Wallbleed в системе «Золотой щит», также известной как «Великий китайский файрвол». С 2021 года они постоянно эксплуатировали её в стремлении изучить механизмы работы системы, информация о которой практически отсутствует.

Источник изображения: Ricardo / unsplash.com

Своё название Wallbleed уязвимость получила по образцу Heartbleed в OpenSSL, обнаруженной более десяти лет назад. Ошибка связана с утечкой памяти и чтением данных за пределами разрешённого диапазона, но авторам исследования удалось заставить китайское оборудование раскрывать данные порциями всего по 125 байтов. Система «Золотой щит» предназначена для блокирования запрещённой в Китае информации и замедления иностранного трафика. Она начала работу ещё в девяностые годы и с течением лет становилась всё более сложной. Для мониторинга онлайн-активности пользователей и фильтрации информации используются различные методы.

Wallbleed была обнаружена в подсистеме DNS-инъекций, которая отвечает за генерацию поддельных ответов DNS. Когда китайский пользователь пытается зайти на заблокированный сайт, его компьютер запрашивает через DNS IP-адрес, соответствующий домену сайта, чтобы можно было установить с ним соединение. «Золотой щит» обнаруживает и перехватывает этот запрос и отправляет ответ с поддельным IP-адресом, ведущим в никуда. С точки зрения пользователя доступ, таким образом, блокируется.

Источник изображения: aay / unsplash.com

При определённых условиях система возвращала пользователю не только поддельный IP-адрес, но и 125 байтов дополнительных данных. Утечка происходила с любой машины, которая проверяет запрос и в зависимости от его содержания блокирует его. Тщательно подготовив такой запрос, можно было захватить 125 байтов из памяти машины в системе. Для каждого пользователя в системе «Золотой щит» одновременно работают не менее трёх машин с DNS-инъекциями; но существуют и другие подсистемы, которые срабатывают, если пользователь каким-то образом получает правильный IP-адрес.

Wallbleed — не первая уязвимость, обнаруженная в китайской системе блокировки ресурсов. В 2010 году некий аккаунт в Twitter (сейчас X) опубликовал однострочный скрипт, который из-за уязвимости в DNS позволял получать 122 байта дополнительных данных из памяти машин. Открывшие Wallbleed непрерывно эксплуатировали уязвимость с октября 2021 по март 2024 года. До сентября-октября 2023 года это была уязвимость Wallbleed v1, которую китайские эксперты уcтранили, но вскоре была обнаружена Wallbleed v2 — её в марте 2024 года закрыли уже окончательно.

Исследователи эксплуатировали уязвимость, чтобы получить некоторую информацию об оборудовании в системе «Золотой щит», о котором неизвестно практически ничего. В частности, они выяснили, что данные оставались в памяти оборудования от нуля до пяти секунд, а его центральные процессоры имели архитектуру x86_64. Они также установили, что уязвимые промежуточные узлы обрабатывали трафик с сотен миллионов китайских IP-адресов, то есть практически со всей страны.

Новый глава Федеральной торговой комиссии США (FTC), назначенный президентом Дональдом Трампом (Donald Trump), готовится инициировать расследование, чтобы установить, подвергали ли технологические гиганты, в том числе Meta✴ Platforms и Uber Technologies, своих пользователей «цензуре».

Источник изображения: Rodion Kutsaiev / unsplash.com

Глава FTC Эндрю Фергюсон (Andrew Ferguson) заявил, что его ведомство ожидает комментариев со стороны представителей общественности по вопросу «цензуры со стороны технологических гигантов», которую он охарактеризовал как «неамериканскую» и «предположительно незаконную». Президент страны Дональд Трамп (Donald Trump) пригласил на свою инаугурацию глав крупных технологических компаний, тем самым дав повод предположить, что в свой второй срок он смягчит отношение Белого дома к ним. Сторонники республиканской партии в бытность президентом демократа Джо Байдена (Joe Biden) утверждали, что соцсети подвергали цензуре публикации консервативного характера; проводились расследования нескольких инцидентов, а в консервативных штатах принимались запрещающие цензуру в соцсетях законы. После штурма Капитолия 6 января 2021 года учётные записи Трампа были заблокированы в Twitter, YouTube и Facebook✴, но сейчас его страницы восстановили.

На общественные обсуждения вынесены действия широкого спектра технологических платформ, в том числе социальных сетей, сервисов обмена видео и фото, совместных поездок, планирования мероприятий, внутренних или внешних коммуникаций и других интернет-служб. Ведомство интересует, какой «вред» потребителям причинили платформы, ограничив их возможность высказываться. Прецедентов применения к онлайн-платформам законов о защите прав потребителей и антимонопольного законодательства за удаление публикаций или учётных записей пока было немного. Американское законодательство предоставляет значительную свободу операторам соцсетей в части удаления материалов пользователей по своему усмотрению: в 2023 году Верховный суд оставил в силе регулирующие эти отношения нормы, изложенные в разделе 320 «Закона о благопристойности в сфере коммуникаций».

Фергюсон возглавляет FTC, и пока отсутствует ясность, как он намеревается применять антимонопольное законодательство и законы о защите прав потребителей для борьбы с тем, что он характеризует как цензуру. Но его заявление свидетельствует, что ведомство намерено сделать борьбу с технологическими компаниями приоритетной задачей. Сейчас в комиссии поровну республиканцев и демократов, но в ближайшее время, как ожидается, в её состав войдёт ещё один республиканец Марк Мидор (Mark Meador) — слушания по его кандидатуре назначены на 25 февраля.

Meta✴ объявила о ликвидации программы проверки фактов с привлечением сторонних экспертов во имя «восстановления свободы слова» — теперь в соцсетях компании эта задача будет решаться по образцу «Примечаний сообщества» на платформе X Илона Маска (Elon Musk).

Источник изображения: Mark Zuckerberg

В ближайшие месяцы в соцсетях Meta✴ также появится функция «Примечания сообщества» (Community Notes) — пользователи платформ смогут самостоятельно добавлять контекст к публикациям. Когда этим занимались сторонние эксперты, их действия были «слишком политически предвзяты» и «больше разрушали доверие, чем создавали [его], особенно в США», отметил глава компании Марк Цукерберг (Mark Zuckerberg). «Мы достигли точки, когда [стало] слишком много ошибок и слишком много цензуры. Недавние выборы представляются культурным переломным моментом, чтобы снова сделать приоритетом свободу слова, поэтому мы вернёмся к нашим корням и сосредоточимся на сокращении [числа] ошибок, упрощении нашей политики и восстановлении свободы слова на наших платформах», — заявил гендиректор Meta✴.

Все эти действия предприняты в связи с возвращением Дональда Трампа (Donald Trump) на пост президента США. В последние годы у него были непростые отношения с крупнейшими соцсетями: он и другие политики-республиканцы говорили о цензуре в отношении консервативных взглядов на платформах. Конфликт начался после произошедших 6 января 2021 года массовых беспорядков в США — учётные записи Трампа в Facebook✴ и Instagram✴ подверглись блокировке. Администрации соцсетей заявили, что его действия могли спровоцировать ещё большее насилие.

Теперь в Meta✴ говорят о намерении изменить политику в отношении размещаемых на платформах материалов: будут сняты ограничения на темы иммиграции и гендерных отношений, а санкции станут применяться преимущественно при грубых нарушениях норм. Подразделения, занимающиеся модерацией и прочими видами работы с материалами, переведут из либеральной Калифорнии в консервативный Техас. «Мы будем работать с президентом Трампом, чтобы дать отпор правительствам по всему миру, которые преследуют американские компании и настаивают на ужесточении цензуры», — пообещал Марк Цукерберг.

Китайские чиновники осуществляют тщательное тестирование разрабатываемых местными компаниями больших языковых моделей — передовых систем искусственного интеллекта — чтобы убедиться, что те «воплощают базовые социалистические ценности», сообщает Financial Times.

Источник изображения: 文 邵 / pixabay.com

Государственная канцелярия интернет-информации КНР (Cyberspace Administration of China, CAC) обязала крупные технологические компании и стартапы в области ИИ, в том числе ByteDance, Alibaba, Moonshot и 01.AI, принять участие в правительственном тестировании их моделей. Процедура включает в себя пакетный сбор ответов на целый ряд вопросов, многие из которых связаны с политическим курсом Китая и с главой государства Си Цзиньпином (Xi Jinping). Работа выполняется чиновниками в местных отделениях ведомства и также включает в себя проверку массивов данных, которые использовались при обучении моделей. Примерно двадцать лет назад в стране начал работать «Великий китайский брандмауэр», заблокировавший населению доступ к ресурсам с информацией, которую власти считают недопустимой, — теперь Пекин вводит самые жёсткие в мире меры регулирования ИИ и создаваемого им контента.

Приводится пример китайского стартапа в области ИИ, чья большая языковая модель прошла экспертизу в ведомстве только со второго раза — причина отказа в первый раз была не до конца ясна, и разработчикам пришлось консультироваться с более удачливыми и понятливыми коллегами. Весь процесс занял несколько месяцев. Для разработчиков задача осложняется тем, что приходится использовать в обучении ИИ большой объём англоязычных материалов, которые в идеологическом плане сильно отличаются от контента на китайском. Фильтрация начинается с отсеивания проблемной информации из обучающих данных и создания базы данных требующих особого внимания слов. В феврале власти страны опубликовали руководство для компаний, работающих в области ИИ: в документе говорится о необходимости собрать базу из нескольких тысяч слов и вопросов, которые противоречат «базовым социалистическим ценностям» — это может быть «подстрекательство к подрыву государственной власти» или «подрыв национального единства».

Источник изображения: Nicky / pixabay.com

Пользователи китайских чат-ботов с ИИ уже ощутили результаты этой работы. Большинство систем отказывается отвечать на вопросы, например, о событиях на площади Тяньаньмэнь 4 июня 1989 года или о сходстве главы государства с Винни-Пухом — чат-боты Baidu Ernie и Alibaba Tongyi Qianwen делают это под различными благовидными предлогами. При этом Пекином был запущен альтернативный чат-бот, ответы которого опираются на работы Си Цзиньпина и другую официальную литературу, предоставленную канцелярией интернет-информации. Но одной только цензуры китайским чиновникам недостаточно — ИИ не следует уклоняться от разговора на любые политические темы. Согласно действующему стандарту, большая языковая модель не должна отклонять более 5 % вопросов.

Разработчики же, пытаясь избежать проблем с властями, всё равно действуют радикально. «Во время тестирования [чиновниками модели] должны отвечать, но после выхода за ними никто не надзирает. Чтобы избежать возможных неприятностей, у некоторых крупных моделей введён полный запрет на темы, связанные с президентом Си», — рассказал сотрудник одной шанхайской компании. Создаются дополнительные механизмы для контроля ответов ИИ, принцип работы которых напоминает фильтры спама в системах электронной почты. А больше всех в идеологическом плане преуспела модель, разработанная компанией ByteDance (владеет TikTok), — исследователи Фуданьского университета присвоили ей высший рейтинг безопасности в 66,4 %. Для сравнения, OpenAI GPT-4o в том же тесте набрала 7,1 %.

На недавней технической конференции Фан Биньсин (Fang Binxing), известный как создатель «Великого китайского брандмауэра», рассказал, что разрабатывает систему протоколов безопасности для больших языковых моделей, которая, как он надеется, будет повсеместно использоваться местными создателями ИИ. «Общедоступным крупным прогностическим моделям нужно больше, чем просто документация по безопасности — им нужен мониторинг безопасности в реальном времени», — пояснил он.

Европа хочет усилить надзор за Telegram, так как из-за отсутствия модерации и контроля мессенджер стал популярен не только среди обычных пользователей, но и среди экстремистов и террористов. Чтобы соответствовать новым правилам ЕС о модерации контента, платформа выбрала в качестве своего представителя брюссельскую компанию EDSR и теперь будет регулироваться властями Бельгии.

Источник изображения: Christian Wiediger/Unsplash

Популярное приложение для обмена сообщениями Telegram теперь будет находиться под пристальным надзором бельгийских регуляторов. Это связано c новым законодательством Евросоюза, обязывающего интернет-платформы бороться с незаконным контентом и дезинформацией.

Как сообщает европейское издание Politico, согласно новому Закону о цифровых услугах (DSA), все крупные IT-компании, работающие на территории ЕС, должны назначить своего официального представителя в одной из стран-членов блока. Именно через этого представителя национальные регуляторы и будут контролировать соблюдение правил модерации контента.

Компания Telegram, основанная выходцем из России Павлом Дуровым, выбрала в качестве своего европейского представителя бельгийскую фирму European Digital Services Representative (EDSR). Соответственно, контролировать Telegram отныне будет бельгийский регулятор «Институт почтовых и телекоммуникационных технологий» (BIPT).

По словам представителя BIPT, бельгийские власти получат все необходимые полномочия для надзора за мессенджером в ближайшие пару недель, сразу после публикации закона, реализующего режим DSA.

Напомним, Telegram изначально позиционировал себя как мессенджер, обеспечивающий повышенную конфиденциальность переписки и звонков. Однако со временем платформа, которую ежемесячно используют более 800 миллионов человек по всему миру, превратилась, по словам надзорных органов, в рассадник экстремистских идей и киберпреступности.

В свете новых правил ЕС перед Telegram встаёт непростая задача — наладить эффективную модерацию контента и блокировку незаконной деятельности, в противном случае компанию могут ждать крупные штрафы со стороны бельгийского регулятора. В целом же суть DSA заключается в наведении порядка на просторах интернета, а контроль со стороны европейских властей является компромиссом между свободой слова и необходимостью защиты общественных интересов. Представители Telegram пока никак не прокомментировали ситуацию.