Популярный мессенджер Telegram вскоре столкнётся с новыми европейскими нормами регулирования контента. Компании необходимо до 17 февраля 2024 года назначить юридического представителя в Европейском Союзе (ЕС). Такое требование проистекает из «Закона о цифровых услугах» (Digital Services Act — DSA), вступившего в силу в августе и направленного на борьбу с экстремистским контентом и пропагандой насилия в социальных сетях.

Источник изображения: LoboStudioHamburg / Pixabay

Еврокомиссия расширила свои полномочия в вопросах надзора и взаимодействия с цифровыми платформами. Теперь Telegram входит в число платформ, обязанных строго следить за контентом, публикуемым его пользователями. Еврокомиссия требует от компании назначения юридического представителя в ЕС до 17 февраля 2024 года, как это предусмотрено DSA. Об этом заявил представитель Еврокомиссии Йоханнес Барке (Johannes Barke) на брифинге в Брюсселе.

Данный закон обязывает социальные сети нести полную ответственность за пользовательский контент, включая удаление нелегальной информации, такой как экстремистский контент или пропаганда насилия. Невыполнение требований DSA может привести к серьёзным финансовым последствиям для компаний: штрафы могут составить до 6 % от общего мирового годового оборота компании, а в крайних случаях возможна блокировка платформы в странах ЕС.

Особое внимание уделяется автоматическому удалению контента, признанного недостоверным независимыми контролёрами фактов (factcheckers). Еврокомиссия требует, чтобы информация, помеченная как ложная, удалялась автоматически на уровне алгоритмов.

Важно отметить, что не только Telegram подвергается такому давлению. Еврокомиссия уже направила первые письма с претензиями компаниям Meta✴, X (бывший Twitter) и TikTok в связи с распространением незаконного контента по поводу конфликта в Израиле, сообщил еврокомиссар по внутреннему рынку Тьерри Бретон (Thierry Breton).

Назначение представителя в ЕС является не только формальным требованием, но и знаком того, что европейское регулирование контента в интернете становится всё более строгим. DSA поднял планку требований к социальным сетям, усиливая ответственность за распространяемый контент. Каким образом Telegram и другие платформы смогут адаптироваться к новым европейским стандартам, не потеряв при этом доверие пользователей, остаётся открытым вопросом.

Компания Apple начала требовать от разработчиков приложений подтверждения наличия государственной лицензии перед размещением их продуктов в китайской версии магазина App Store. Американская компания последней приняла эту политику для соответствия требованиям государственного регулирования отрасли.

Источник изображения: Zhiyue / unsplash.com

В сообщении сказано, что с прошлой пятницы Apple обязала разработчиков подавать «заявку поставщика интернет-контента (ICP)» для последующей публикации их приложений в магазине цифрового контента. Лицензия ICP необходима для легальной работы веб-сайтов и магазинов приложений на территории Китая. Занимающиеся распространением ПО конкуренты Apple, такие как Huawei и Tencent, соответствуют этому требованию как минимум с 2017 года.

Для получения лицензии ICP разработчику необходимо иметь представительство в Китае или сотрудничать с одним из местных издателей. Для большинства иностранных разработчиков это правило является серьёзным препятствием, не позволяющим выйти на рынок Поднебесной. Apple до прошлой недели не требовала оформления лицензии ICP, благодаря чему в китайском App Store опубликовано значительно больше приложений, чем у местных конкурентов. Это также позволило IT-гиганту повысить свою популярность в Китае.

Apple пересмотрела политику в плане модерации новых приложений после того, как в августе Китай усилил надзор в этом сегменте. Правительство потребовало от всех магазинов приложений предоставлять регуляторам данные о регистрируемых программных продуктах. На прошлой неделе китайские регуляторы опубликовали список магазинов приложений, которые соответствуют новому требованию, но App Store в нём не было. Изменение политики модерации софтверных решений может повлиять на доступность сотен тысяч приложений в китайском App Store, включая популярные зарубежные программы.

Крупнейшие европейские телекоммуникационные компании обратились к Европейскому Союзу с призывом обязать крупные технологические компании, такие как Netflix и Google, вносить справедливый вклад в развитие их сетей. Этот призыв был озвучен в открытом письме глав 20 компаний, включая BT, Deutsche Telekom и Telefónica, которое будет направлено Еврокомиссии и членам Европарламента. Инициатива направлена на поддержку инвестиций в развёртывание сетей 5G и переход на полнофункциональные оптические сети.

Источник изображения: Ralphs_Fotos / Pixabay

По мнению руководителей телекоммуникационных компаний, технологические гиганты извлекают наибольшую выгоду из европейской телекоммуникационной инфраструктуры и способствуют увеличению интернет-трафика, и поэтому должны более активно финансировать её поддержку и развитие. Они также заявляют, что будущие инвестиции в телекоммуникационную инфраструктуру находятся под давлением, и подчёркивают потребность в регулировании для обеспечения этих инвестиций.

Подписантами стали Тимотиус Хётгес (Timotheus Höttges) из Deutsche Telekom, Кристель Хейдеманн (Christel Heydemann) из Orange, Хосе Мария Альварес-Паллете (José María Álvarez-Pallete) из Telefónica и Пьетро Лабриола (Pietro Labriola) из Telecom Italia. Они предложили механизм, который будет взимать плату только с самых крупных генераторов интернет-трафика, с акцентом на ответственность и прозрачность в вопросах взносов, чтобы операторы инвестировали прямо в цифровую инфраструктуру ЕС.

Инициатива «справедливой доли» уже получила поддержку в Брюсселе, и Европейский парламент в июне выразил намерение по созданию условий, в которых крупные генераторы трафика справедливо вносили бы свой вклад в финансирование телекоммуникационных сетей без ущерба для сетевого нейтралитета. Еврокомиссия сообщает, что возможно, потребуется дополнительно 200 млрд евро на развёртывание 5G сетей во всех населённых пунктах и полное гигабитное покрытие всего ЕС к 2030 году.

По словам глав европейских телеком-компаний, объём данных ежегодно увеличивается в среднем на 20–30 %, что в основном обусловлено активностью лишь нескольких крупных технологических компаний. Однако подобный рост, по их мнению, вряд ли приведёт к соответствующему возврату инвестиций при текущих условиях. Техногиганты ранее высказывались против инициативы «справедливой доли», утверждая, что они уже инвестируют в интернет-инфраструктуру, включая подводные кабели и дата-центры.

Инициатива европейских телекоммуникационных компаний подчёркивает важность разделения ответственности за инфраструктурные инвестиции между всеми ключевыми игроками цифровой экономики. Она также выявляет потенциальные противоречия между традиционными телекоммуникационными компаниями и крупными технологическими компаниями, что может иметь долгосрочные последствия для конкурентоспособности ЕС в глобальном цифровом пространстве.

Роскомнадзор обязал российские поисковые системы информировать пользователей о том, что 12 иностранных хостинг-провайдеров нарушают действующее в стране законодательство.

Источник изображения: Pixabay

Речь идёт о законе №236-Ф3 «О деятельности иностранных лиц в сети Интернет на территории РФ», в соответствии с которым зарубежные компании должны зарегистрировать личный кабинет на сайте Роскомнадзора, разместить форму обратной связи для российских пользователей, а также открыть представительство на территории страны. В список регулятора попали следующие провайдеры хостинга: Hetzner Online GmbH, Network Solutions, WPEngine, HostGator.com, Ionos, DreamHost, FastComet, Amazon Web Services, GoDaddy.com, Bluehost, Kamatera и DigitalOcean. В соответствии с постановлением Роскомнадзора отечественные поисковые системы должны помечать сайты провайдеров как нарушителей закона «до исполнения указанных обязанностей».

В апреле прошлого года Роскомнадзор ввёл меры в отношении Google за «многочисленные нарушения российского законодательства». С тех пор «Яндекс» и «Поиск Mail.ru» помечают американскую компанию как нарушителя законов России. В июле аналогичные меры были приняты в отношении Twitch и Wikimedia Foundation, а в августе — в отношении Telegram, TikTok, Zoom, Discord и Pinterest.

Европейская торговая группа (EGDF) призывает правительства обновить нормативную базу для обуздания «провала рынка» из-за «антиконкурентного поведения» производителя мультиплатформенного движка Unity. Хотя на фоне массовой критики Unity пообещала внести изменения в свою скандальную новую политику, разработчики игр настроены скептически, а EGDF утверждает, что новая структура отчислений затруднит разработчикам планирование и увеличит их затраты на разработку игр.

Источник изображения: unity.com

EGDF также очень обеспокоена возможным массовым обновлением учебных программ для профессиональных игровых учебных заведений. «Многие молодые специалисты отрасли, построившие свои карьерные планы на освоении инструментов Unity, окажутся в очень сложном положении», — заявил представитель организации.

EGDF считает, что объединение игрового движка с такими сервисами, как аналитика, внутриигровой чат, рекламные сети, инструменты посредничества и привлечения пользователей создаёт «значительный риск блокировки поставщика для разработчиков игр, использующих сервисы Unity, что также затрудняет конкуренцию многим разработчикам промежуточного ПО для игр». По мнению EGDF, в ЕС надлежит разработать новые правила для ограничения условий контрактов между компаниями, а Закон о цифровых рынках необходимо применять к Unity и другим подобным платформам.

Невзирая на обещания Unity внести изменения в запланированную структуру сборов, многие разработчики собираются перейти на другие движки. А EGDF даже предлагает финансовую поддержку «дружественным к конфиденциальности» альтернативным игровым движкам, таким как Godot.

Власти Великобритании представили 7 принципов регулирования искусственного интеллекта, которыми должны руководствоваться компании, занимающиеся разработкой ИИ-систем. Управление по конкуренции и рынкам (CMA) настаивает на введении ответственности за результаты работы ИИ, обеспечение доступа к ключевым ресурсам, а также на прозрачности рисков и ограничений, связанных с контентом, созданным генеративным ИИ. Инициатива направлена на стимулирование конкуренции и инноваций, предотвращение монополизации рынка и защиту потребителей.

Источник изображения: herbinisaac / Pixabay

Регулятор разработал принципы после первичного обзора текущего состояния отрасли и планирует обсудить их с общественными и потребительскими группами, а также с академическим сообществом:

• Ответственность: разработчики ИИ-моделей несут ответственность за информацию, предоставляемую потребителям;
• Доступность: непрерывный доступ к ключевым ресурсам без необоснованных ограничений;
• Разнообразие: поддержание разнообразия бизнес-моделей, включая как открытые, так и закрытые системы;
• Выбор: предоставление бизнесу выбора для определения способов использования ИИ-моделей;
• Гибкость: возможность переключения между различными ИИ-моделями или одновременного использования нескольких из них в зависимости от потребностей;
• Добросовестность: отсутствие антиконкурентного поведения, навязывания продуктов и услуг;
• Прозрачность: предоставление потребителям и бизнесу информации о рисках и ограничениях контента, созданного с помощью ИИ-моделей, для осуществления осознанного выбора.

Основное внимание СМА уделило так называемым основным ИИ-моделям, которые лежат в основе многих генеративных ИИ-систем, включая продукты компаний OpenAI, Google, Meta✴, Microsoft и других. Среди ключевых аспектов, на которые следует обратить внимание —обеспечение ответственности за выходные данные ИИ и гарантия доступа к ключевым ресурсам, под которыми, вероятно, также подразумеваются чипы и данные для обучения ИИ.

«Влияние основных ИИ-моделей может позволить большему числу компаний успешно конкурировать, возможно, бросив вызов текущим лидерам рынка», — отметило CMA в своём обзоре. Регулятор подчеркнул, что здоровая конкуренция и инновации могут способствовать экономическому росту благодаря росту производительности.

Инициатива CMA по регулированию ИИ возникла в важный момент, когда правительства по всему миру активно ищут способы контроля над развитием генеративного ИИ. Европейский Союз, Китай и США также работают над созданием собственных нормативных документов в этой области.

Следует отметить, что, несмотря на широкий спектр вопросов, связанных с регулированием ИИ, включая вопросы авторских прав и защиты данных, CMA сосредоточило внимание на конкуренции и защите потребителей, стремясь обеспечить благоприятные условия на текущем этапе развития новой технологии.

Еврокомиссия обнародовала список компаний, которые посчитала наиболее опасными с точки зрения монополизации рынка и которые будут находиться под более жёстком контролем в будущем. В список вошли американские Alphabet (материнская компания Google), Amazon, Apple, Meta✴ Platforms и Microsoft, а также китайская ByteDance (владелец TikTok). В общей сложности шесть компаний владеют 22 сервисами, которые должны соответствовать Закону о цифровых рынках (DMA) ЕС к марту 2024 года.

Источник изображения: Еврокомиссия

В широком смысле DMA является попыткой Евросоюза обуздать рыночную власть крупных технологических компаний. IT-гигантам придётся сделать свои платформы более открытыми, а также конкурировать на рынке только за счёт преимуществ своих продуктов. Например, операционные системы должны позволять установку сторонних магазинов приложений, а владельцы платформ распространения цифрового контента должны позволять разработчикам использовать в своих продуктах сторонние системы проведения платежей. Из-за этого, например, Apple придётся наконец открыть iOS для сторонних приложений и платёжных систем. В DMA IT-гигантов называют привратниками цифрового рынка, а сам закон направлен на борьбу с их монополизмом.

Что касается списка сервисов, которые должны соответствовать DMA к марту следующего года, то он выглядит следующим образом: социальные сети TikTok, Facebook✴, Instagram✴ и LinkedIn, сервисы обмена сообщениями WhatsApp и Facebook✴ Messenger, сервисы посреднической деятельности «Google Карты», «Google Покупки», магазин приложений Apple App Store, маркетплейсы Amazon и Meta✴, видеохостинг YouTube, рекламные сервисы Google, Amazon и Meta✴, браузеры Chrome и Safari, поисковик Google, а также операционные системы Android, iOS и Windows.

Более ранняя версия документа предполагала включение в этот список браузера Samsung Internet Browser, поисковика Bing и браузера Edge. Однако в окончательную версию списка они включены не были. Вместе с этим Еврокомиссия объявила о намерении провести рыночное исследование, по результатам которого список могут пополнить другие сервисы, принадлежащие крупным технологическим компаниям.

Источники Axios сообщают, что в следующем месяце руководители самых влиятельных технологических компаний США отправятся на Капитолийский холм на первый форум лидера сенатского большинства Чака Шумера (Chuck Schumer). Ожидается, что встреча продлится 2–3 часа и будет посвящена последствиям внедрения ИИ. Форумы AI Insight, организованные Шумером, призваны знакомить законодателей с развивающимися технологиями и закладывать правовые основы для их регулирования.

Источник изображения: Pixabay

В закрытой встрече, запланированной на 13 сентября, примут участие множество влиятельных игроков, в том числе Илон Маск (Elon Musk) из X, Марк Цукерберг (Mark Zuckerberg) из Meta✴, Сундар Пичаи (Sundar Pichai) из Google, Сэм Альтман (Sam Altman) из OpenAI, Дженсен Хуанг (Jensen Huang) из NVIDIA, Сатья Наделла (Satya Nadella) из Microsoft, бывший генеральный директор Google Эрик Шмидт (Eric Schmidt), соучредитель Microsoft Билл Гейтс (Bill Gates), группы гражданского общества и представители профсоюзов.

В организации форума приняли участие представители обеих крупнейших партий США. Законодатели обеих сторон озабочены последствиями быстрого внедрения новых технологий. Помимо Шумера, форумы проведут сенаторы Мартин Генрих (Martin Heinrich), Тодд Янг (Todd Young) и Майк Раундс (Mike Rounds).

Не так давно Сэм Альтман произвёл сильное впечатление на заинтересованных лиц, призвав Конгресс заняться регулированием сектора ИИ. Многие наблюдатели выражают скептицизм по поводу того, что быстро развивающиеся технологические компании действительно готовы иметь дело с правительственными барьерами.

Некоторые эксперты считают встречи, подобные форуму AI Insight бессмысленными, так как интересы участников порой диаметрально противоположны, их совместные усилия напоминают героев басни «Лебедь, Рак и Щука», а встречи руководителей конкурирующих компаний лицом к лицу могут послужить основой для сценария следующей части «Рокки Бальбоа» или продолжения «Кулака Ярости».

Финансовый регулятор Сингапура разработал правила для цифровых валют типа «стейблкоин». Резервы, поддерживающие стейблкоины, должны храниться в низкорисковых и высоколиквидных активах. Размер резервов должен постоянно равняться или превышать объём стейблкоинов, находящихся в обращении. Рынок стейблкоинов оценивается примерно в $125 млрд, при этом два токена — USDT Tether и USDC Circle — составляют примерно 90 % от общей рыночной капитализации.

Источник изображения: unsplash.com

Финансовый регулятор Сингапура во вторник сообщил о завершении разработки правил для цифровой валюты типа «стейблкоин», став одним из первых государств в мире, сделавших это. Стейблкоин — тип цифровой валюты, предназначенный для поддержания постоянной стоимости по отношению к фиатной валюте. Считается, что они обеспечены резервом реальных активов, таких как наличные деньги или государственные облигации. Но на мировом рынке в целом стейблкоины пока не регулируются.

Валютное управление Сингапура (MAS) установило некоторые ключевые требования:

• Резервы, поддерживающие стейблкоины, должны храниться в низкорисковых и высоколиквидных активах. Они должны всегда равняться или превышать стоимость стабильной монеты в обращении;
• Эмитенты стейблкоинов обязаны вернуть держателям цифровой валюты её номинальную стоимость в течение пяти рабочих дней с момента запроса на погашение;
• Эмитенты также должны предоставлять «соответствующую информацию» пользователям, включая результаты аудита резервов.

Эти правила будут применяться к стейблкоинам, выпущенным в Сингапуре и имитирующим стоимость сингапурского доллара или любой валюты G10, например, доллара США. Стейблкоины, отвечающие всем требованиям правил, будут признаны регулятором «стабильными монетами, регулируемыми MAS». По утверждению MAS, это позволит отличить стейблкоины от других нерегулируемых токенов. Сингапур позиционирует себя как центр цифровой валюты, стремясь привлечь иностранный капитал на фоне критики со стороны криптоиндустрии в отношении режима регулирования США.

В прошлом году крах так называемой алгоритмической стабильной монеты под названием UST поставил этот тип криптовалюты под прицел регулирующих органов. В отличие от USDT и USDC, UST управлялся алгоритмически и не был обеспечен реальными активами, такими как облигации.

Источник изображения: USDT

Стейблкоины USDT и USDC используются как основные токены при торговле криптовалютой. Они позволяют трейдерам входить и выходить из различных цифровых монет, не конвертируя их обратно в фиатную валюту. Эмитенты стейблкоинов утверждают, что токены можно использовать для многих других целей, включая денежные переводы. Но эмитенты стейблкоинов подвергались критике за малую прозрачность резервов, которыми они владеют, и Сингапур, разработав правила регулирования, пытается внести больше ясности в отрасль.

«Нормативно-правовая база MAS в отношении стейблкоинов направлена на облегчение использования стейблкоинов в качестве надёжного цифрового средства обмена и в качестве моста между экосистемами фиатных и цифровых активов», — уверены в MAS.

«Благодаря новой нормативно-правовой базе для стейблкоинов MAS входит в число дальновидных регуляторов во всём мире, которые создают чёткую и прозрачную нормативно-правовую базу для стейблкоинов и цифровых активов, — заявил Ям Ки Чан (Yam Ki Chan), вице-президент компании Circle, управляющей стейблкоином USDC, стоимость которого привязана к доллару США. — Мы благодарим власти за внедрение надёжной структуры стабильной монеты, которая сочетает в себе инновации и защиту клиентов».

Источник изображения: USDC

Принятые MAS правила регулирования стейблкоинов делают Сингапур одной из первых юрисдикций, в которых такие правила были разработаны и приняты. В июне Великобритания приняла закон, который даёт регулирующим органам возможность контролировать стейблкоины, но конкретные правила пока не опубликованы. Гонконг сейчас проводит общественные консультации и намерен ввести регулирование стейблкоинов в следующем году.

Популярный сервис коротких видео TikTok продолжает претерпевать серьёзные изменения в Евросоюзе. Платформа стремится успеть перестроиться в срок до 28 августа для соответствия новому Закону о цифровых услугах (DSA). Наиболее заметное изменение, с которым предстоит столкнуться пользователям сервиса, заключается в том, что они смогут сами решать, позволять ли алгоритмам платформы управлять разделом с рекомендациями «Для вас».

Источник изображения: antonbe / pixabay.com

«Скоро пользователи в регионе смогут отключить персонализацию. Если они это сделают, то их раздел с рекомендациями будет заполняться популярными видео в их регионе и по всему миру, а не контентом, персонализированным для них», — говорится в сообщении TikTok.

Пользователям, которые откажутся от использования рекомендательных алгоритмов, в результатах поиска будут отображаться популярные ролики интересующей тематики, а также контент на предпочитаемом языке. При этом они по-прежнему смогут использовать разделы «Друзья» и «Подписчики», чтобы просматривать контент, публикуемый пользователями, на которых они подписаны. Однако теперь в каждой из упомянутых вкладок ролики будут сортироваться в хронологическом порядке, а не по степени интересности.

В соответствии с DSA, «владельцы крупных онлайн-платформ», в число которых входит TikTok, должны гарантировать, что люди смогут «использовать альтернативные варианты, которые не основаны на профилировании» в рамках рекомендательных систем платформ. Это означает, что платформы должны предложить пользователям вариант, при котором им будет предлагаться контент, для подбора которого не используются их личные данные.

В дополнение к этому TikTok запускает новую опцию отчётности о контенте для европейских пользователей. С её помощью пользователи сервиса смогут отмечать контент, который, по их мнению, не должен быть разрешён на платформе. Такой контент будет обрабатываться не только алгоритмами, но и модераторами, которые будут проверять ролики на соответствие правилам платформы и действующим в регионе законам. Сервис также будет предоставлять более детальную информацию о своих решениях в плане модерации контента.

Власти китайского города Гуанчжоу объявили о сотрудничестве с рядом научно-исследовательских институтов Гонконга и Макао в рамках проекта по созданию зоны доступа к «трансграничному интернету» для нужд учёных. Проект будет реализован в городском районе Наньша, а доступ к зарубежным интернет-ресурсам смогут получить учёные и студенты.

Пекин строго контролирует интернет в стране, из-за чего пользователям для получения доступа к зарубежным интернет-ресурсам, например Google, Wikipedia, Facebook✴, Twitter и YouTube, необходимо использовать VPN, который тоже не всегда справляется с задачей. Это же касается студентов и учёных, которые не могут напрямую получить получить доступ ко многим глобальным научным ресурсам, а для подключения к чат-боту ChatGPT использовали иностранные номера телефонов и VPN.

В соответствии с пилотной схемой в районе Наньша будет построена специальная площадка и канал для «доступа в международный интернет». Организация зоны доступа к сети «трансграничного интернета» позволит учёным пользоваться иностранными веб-сайтами, при этом не нарушая местные законы. Конечно же, это не касается всех желающих — доступ к иностранным сайтам будет у ограниченного числа людей, включённых в соответствующие «Белые списки». И работа в глобальном интернете будет контролироваться. Точные сроки реализации проекта на данном этапе озвучены не были.

Подключение к глобальной Сети является частью плана китайского правительства объединить Гонконг и Макао с 11 материковыми городами южной провинции Гуандун, такими как Гуанчжоу и Шэньчжэнь, в мощный финансовый и технологический центр, известный как Зона Большого залива (Greater Bay Area).

Компания OpenAI понесла серьёзные кадровые потери. Дэйв Уилнер (Dave Willner), ветеран отрасли, возглавлявший отдел по вопросам доверия и безопасности ИИ последние полтора года, объявил о своём увольнении и переходе на должность консультанта. Он планирует проводить больше времени с семьёй. Его уход происходит в критическое время для ИИ, когда весь мир волнуют вопросы о регулировании ИИ и минимизации возможных вредных последствий его внедрения.

Источник изображения: OpenAI

Буквально сегодня президент OpenAI Грег Брокман (Greg Brockman) должен появиться в Белом доме вместе с руководителями из Anthropic, Google, Inflection, Microsoft, Meta✴ и Amazon, чтобы подтвердить добровольные обязательства по достижению общих целей безопасности и прозрачности при использовании ИИ в преддверии находящегося в разработке закона.

Уилнер в сообщении о своём уходе пишет, что требования к его работе в OpenAI перешли в «фазу высокой интенсивности» после запуска ChatGPT. Он и его жена взяли на себя обязательство всегда ставить семью на первое место, но «в течение нескольких месяцев после запуска ChatGPT мне становилось все труднее выполнять свою часть сделки».

Уилнер занимал свой пост в OpenAI последние полтора года, до этого он руководил командами доверия и безопасности в Facebook✴ и Airbnb. В Facebook✴ он был одним из первых сотрудников, который помог сформировать базовый подход компании к стандартам сообщества, ставший в дальнейшем фундаментом гражданской позиции компании.

Учитывая влияние Facebook✴ на глобальное развитие социальных сетей, выработка компанией концепций по модерированию контента оказалась системообразуюшей для всего интернета и общества в целом. Начальный этап развития социальной сети характеризовался очень откровенной позицией в отношении свободы слова и отказом Facebook✴ блокировать спорные группы и удалять спорные сообщения. В то время общество раскололось — одни ратовали за строгую модерацию, другие считали это цензурой и покушением на свободу слова.

Уилнер был в последнем лагере, полагая, что «язык ненависти» — это не то же самое, что «прямой вред», и поэтому его нельзя модерировать одинаково. Теперь многие считают, что это была довольно недальновидная и даже наивная позиция. Но Уилнер не отказался от своего мнения — в 2019 году, уже не работая в социальной сети, он выступал против исключений для политиков и общественных деятелей в вопросах модерации контента.

Необходимость контроля и регулирования в сфере ИИ ещё более актуальна для новой волны технологий на базе ИИ, нежели модерирование социальных сетей. К примеру, в OpenAI Уилнер занимался вопросами безопасности и потенциальных злоупотреблений при использовании генератора изображений Dall-E для таких вещей, как создание генеративной детской порнографии на основе ИИ.

OpenAI и всей бурно растущей отрасли генеративного ИИ требуется грамотно продуманная политика использования и требуется, как говорится, ещё вчера. Эксперты предрекают, что в течение года отрасль достигнет очень проблемного состояния. Уже сейчас использование ИИ приводит к массовым увольнениям, проблемам с авторскими правами, ошибкам в судебных процессах и другим крупным неприятностям. И уход из отрасли таких людей, как Уилнер, только усугубляет ситуацию.

ООН выражает опасения относительно потенциально вредных для людей достижений в области нейротехнологий, в частности, по поводу имплантации чипов с ИИ в человеческий мозг. Эта технология может нарушить психическую конфиденциальность людей, давая ИИ доступ к их мыслям и возможность манипулировать механизмами мозга. Поэтому необходимо тщательное госрегулирование данной сферы.

Источник изображения: geralt / Pixabay

«Это все равно, что посадить нейротехнологии на стероиды», — сказала Мариаграция Сквичиарини (Mariagrazia Squicciarini), экономист из ООН по вопросам образования, науки и культуры.

По мере того, как ИИ будет осваивать сферу нейротехнологий, он будет нуждаться в государственном регулировании. По мнению Габриэлы Рамос (Gabriela Ramos), помощника Генерального директора ЮНЕСКО по социальным и гуманитарным наукам, эта технология обладает далеко идущими и потенциально вредными возможностями. «Мы находимся на пути к миру, в котором алгоритмы способны расшифровывать психические процессы людей и напрямую манипулировать механизмами мозга, лежащими в основе их намерений, эмоций и решений», — заявила Рамос.

Генеральный секретарь ООН Антонио Гутерриш (Antonio Guterres) считает, что эта технология развивается с огромной скоростью и, хотя она способна изменить жизнь человека к лучшему, её практическая реализация может иметь и неприятные последствия. В качестве примера была приведена Ханна Галвин (Hannah Galvin), женщина, страдающая эпилепсией, в мозг которой было установлено нейротехнологическое устройство для обнаружения припадков и оповещения пациента о том, когда следует лечь. Устройство в конечном итоге ухудшило жизнь Галвин, которая сказала, что у нее было до 100 припадков в день, поэтому устройство постоянно срабатывало. «Мне казалось, что в моей голове кто-то есть, и это была не я. И я становилась всё более и более подавленной. Мне это совсем не нравилось», — рассказала Галвин, которой в итоге удалили это устройство.

Однако, стоит учесть, что имеются и некоторые позитивные аспекты в использовании ИИ в нейротехнологиях. Такие решения могут помочь в лечении различных нейродегенеративных заболеваний, включая болезнь Паркинсона, а также облегчить жизнь людям с постоянной потерей памяти или тем, кто страдает от тяжёлых травм мозга. По мнению Сквичиарини, эта технология может стать фантастической для других людей, позволяя слепым видеть или парализованным ходить.

В новом технологическом мире, где нейротехнологии приобретают всё большую популярность, важно взвесить все возможные преимущества и риски. Ведь эти инновации не только способны облегчить жизнь людей, но и представляют собой потенциальную угрозу для права каждого человека на частную жизнь и неприкосновенность его мысли.

«Нейротехнологии могут помочь решить многие проблемы со здоровьем, но они также могут получить доступ к мозгу людей и манипулировать им, а также получать информацию о нашей личности и наших эмоциях. Это может угрожать нашим правам на человеческое достоинство, свободу мысли и неприкосновенность частной жизни», — заявила в июне Генеральный директор ЮНЕСКО Одри Азулай (Audrey Azoulay), предложив установить общие этические рамки для подобных технологий на международном уровне.

Одним из главных вызовов, который стоит перед развитием нейротехнологий, является потенциальное злоупотребление. По мнению экспертов и чиновников, есть риск, что эти технологии могут быть использованы для незаконной слежки и манипуляции. Это подчёркивает необходимость в тщательном контроле и государственном регулировании данной сферы.

Американские политики хотят заставить онлайн-платформы раскрыть подробности о работе их алгоритмов и обязать компании разрешить правительству вмешиваться в их работу в случае обнаружения фактов дискриминации пользователей по таким критериям, как раса или пол. Соответствующий законопроект на этой неделе был представлен в правительстве США.

Источник изображения: Headway/unsplash.com

Сенатор от штата Массачусетс Эдвард Марки (Edward Markey) и член палаты представителей Дорис Мацуи (Doris Matsui) представили проект «Закона об алгоритмическом правосудии и прозрачности онлайн-платформ», который предусматривает введение запрета на использование дискриминационного или «пагубного» принятия решений, используемыми на онлайн-платформах алгоритмами. Законопроект также установит стандарты безопасности, потребует от платформ предоставления простого объяснения принципов работы алгоритмов, используемых на веб-сайтах, а также публикации ежегодных отчётов о методах модерации контента и создания специальной правительственной группы для расследования случаев дискриминационного поведения алгоритмов.

Представленный законопроект, в случае принятия, распространит действие на онлайн-платформы или любые коммерческие общедоступные сайты и приложения, которые «обеспечивают предоставление площадки для размещения пользовательского контента». Это могут быть сайты социальных сетей, службы агрегации контента или сайты для обмена медиаконтентом и файлами. Первую версию законопроекта Марки и Мацуи представили в 2021 году, он был передан в Подкомитет по защите прав потребителей, но дальнейшего хода не получил.

Управление киберпространством Китая (CAC) совместно с другими регулирующими органами страны завершило разработку первых в своём роде правил, регулирующих работу генеративного ИИ. Правила вступят в силу 15 августа, что свидетельствует о стремлении государства усилить контроль за развитием этой быстрорастущей отрасли.

Источник изображения: Chickenonline / Pixabay

Генеративный ИИ представляет собой быстро развивающуюся область технологий, в которой ИИ способен генерировать контент, например, текст или изображения. Наиболее известным примером является ChatGPT, разработанный американской компанией OpenAI, который позволяет пользователям задавать чат-боту вопросы и получать на них ответы. Успех ChatGPT вызвал появление конкурирующих сервисов по всему миру. Китайские технологические гиганты не намерены отдавать первенство конкурентам в этой сфере и уже запустили собственные сервисы генеративного ИИ.

Эти сервисы обучаются на огромных массивах данных, что вызвало обеспокоенность мировых регулирующих органов по поводу потенциальных рисков, связанных с технологией. «Мы не можем позволить себе играть в догонялки в отношении искусственного интеллекта, разрешая его использование с ограничениями или без них и иметь практически неизбежные последствия для прав человека постфактум», — считает Мишель Бачелет (Michelle Bachelet), верховный комиссар ООН по правам человека. Китай, жёстко контролирующий внутренний интернет, внимательно следит за развитием ИИ. Китайские регуляторы обеспокоены тем, что упомянутые сервисы могут генерировать контент, противоречащий взглядам или идеологии Пекина.

Отчасти именно поэтому китайские технологические компании проявляют осторожность при запуске своих сервисов, подобных ChatGPT. Вместо того чтобы создавать полноценные общедоступные сервисы, китайские компании ориентируют свои технологии на корпоративное и узкоспециализированное применение. Например, компания Alibaba в этом месяце запустила ИИ-инструмент Tongyi Wanxiang, способный генерировать изображения по подсказкам, но он доступен только корпоративным клиентам для бета-тестирования.

Тем не менее, правила CAC дают технологическим гигантам основу для работы с этой технологией. Они будут распространяться только на те сервисы генеративного ИИ, которые доступны широкой публике, а не на те, которые разрабатываются, например, в исследовательских институтах.

По словам представителей CAC, сервисы генеративного ИИ должны будут получать соответствующую лицензию. Если разработчик такого продукта обнаружит незаконный контент, он должен принять меры по прекращению его генерации, улучшить алгоритм и затем сообщить об этом инциденте регулятору.

Новые регулятивные меры, принятые Китаем, говорят об усилении контроля над развивающимися технологиями, такими как генеративный ИИ. В марте этого года Илон Маск (Elon Musk), Стив Возняк (Steve Wozniak), а также более 1000 экспертов в области ИИ предупредили в открытом письме о потенциальных рисках ИИ для общества. Всё это ставит вопросы не только об этичности использования ИИ, но и о необходимости обеспечения прозрачности в его работе и обучении.