Европейский Союз хочет, чтобы технологические компании предупреждали пользователей о контенте, созданном ИИ, который может содержать дезинформацию. «Технологии ИИ могут принести пользу, но имеются и «тёмные стороны» с новыми рисками и потенциальными негативными последствиями для общества, — говорит вице-президент Европейской комиссии Вера Юрова (Vera Jourova). — Новые технологии ставят новые задачи в борьбе с дезинформацией».

Источник изображения: Pixabay

Закон о цифровых услугах ЕС, который устанавливает правила модерации, пока не распространяется на контент, созданный ИИ. ЕС спешит наверстать упущенное и установить правила для использования генеративного ИИ. Закон об ИИ будет вынесен на ключевое голосование на пленарном заседании Европейского парламента на следующей неделе. Даже если институты ЕС согласятся с окончательным вариантом к концу года, компаниям, вероятно, не нужно будет соблюдать его до 2026 года.

Уже сейчас компании, которые приняли добровольный свод правил ЕС по борьбе с дезинформацией, в том числе TikTok, Microsoft и Meta✴, должны «чётко маркировать» любые сервисы, способные распространять дезинформацию, созданную ИИ. Эти компании, которые интегрируют генеративный ИИ в свои сервисы, такие как Bing для Microsoft, Bard для Google, также должны предусмотреть необходимые меры безопасности, чтобы эти сервисы не могли использоваться злоумышленниками для создания дезинформации.

В общей сложности Вера Юрова встретилась с более чем 40 компаниями, подписавшими кодекс этики в сфере искусственного интеллекта. Однако Twitter отказалась подписывать документ. «Мы считаем, что это ошибка Twitter. Компания выбрала трудный путь — конфронтацию, — заявила представитель Европейской комиссии. — Отказавшись от участия, компания привлекла много внимания, и её действия и соблюдение законодательства ЕС будут тщательно и срочно проверены».

Еврокомиссар по вопросам конкуренции Маргрет Вестагер (Margrethe Vestager) обсуждает кодекс с партнёрами по G7, Индией и Индонезией, чтобы убедить компании добавлять дополнительные меры безопасности по мере развёртывания технологий генеративного ИИ. Комиссар по внутреннему рынку Тьерри Бретон (Thierry Breton) объявил о «Пакте об ИИ», который будет действовать в период между согласованием закона об ИИ и его вступлением в силу.

Компания Google делает новые шаги на пути борьбы с дезинформацией — она намерена автоматически выявлять сгенерированные ИИ изображения. На мероприятии I/O она представила новые функции, которые добавятся в её поиск. Считается, что такая функциональность поможет людям лучше понимать «контекст» изображений в поисковой выдаче. Кроме того, пользователи будут получать больше информации об изображении в специальной вкладке. Также появится и маркировка «Сгенерировано ИИ».

Сгенерировано Google. Источник изображения: Google

В компании заявляют, что новые функции помогут людям быстрее оценивать достоверность изображения — реально ли оно или создано ИИ. Впрочем, сами эти инструменты вряд ли помогут устранить проблему дезинформации полностью, поскольку значительная часть изображений будет демонстрироваться вообще вне экосистемы Google, на площадках, где авторы могут публиковать буквально что угодно. Тем не менее, новая функциональность, которая появится в «ближайшие месяцы», обеспечит в поиске больше контекста, связанного с теми или иными «снимками» — достаточно будет открыть вкладку «Об этом изображении» (About this image).

В частности, в число данных будет включена информация о том, когда изображения были впервые индексированы Google, где изображение, вероятно, впервые появилось онлайн и где ещё оно публиковалось. В частности, такой поиск может привести на сайты, занимающиеся проверкой фактов, которые позволят пользователям больше узнать об изображении, чья достоверность поставлена под вопрос. В Google отметили, что 62 % опрошенных людей уверены, что встречаются с дезинформацией ежедневно или еженедельно, в компании надеются решать эту проблему с помощью вкладки «Об этом изображении».

Хотя Google изо всех сил старается представить технологию как можно раньше, до того, как мир заполонят сгенерированные ИИ изображения, недостоверность которых на первый взгляд неочевидна, в сети уже появилось множество фейковых фото, например — Папы Франциска в пуховике или дружески общающихся Трампа и Байдена. Такие технологии уже сегодня могут нанести серьёзный ущерб обществу.

Для того, чтобы вызвать информацию об изображении, пользователь будет должен нажать на трёхточечное меню в результатах выдачи «Изображения» в поисковике Google, можно будет искать по изображению или скриншоту в Google Lens или просто сделать свайп вверх на странице с заинтересовавшим пользователя изображением. Позже в этом году доступ к информации можно будет получить, вызвав окно правой кнопкой мыши на компьютере или долгим нажатием на изображение в смартфоне (в мобильной или настольной версии Chrome). Впрочем, сначала функция будет доступна только в США и только на английском.

Тем временем сгенерированные инструментами самой Google изображения получат специальную маркировку в исходном файле. Создатели изображений и издатели также смогут добровольно добавлять подобную маркировку на сгенерированные ИИ изображения. После этого в поиске Google будет появляться соответствующая метка. В Google заявляют, что некоторые платформы уже готовы к сотрудничеству в этой сфере — включая Midjourney, Shutterstock и др.

Google представила и другие возможности. Например, речь идёт о скором появлении секции в поиске раздела с некоммерческим контентом, опубликованным реальными людьми.

Если сейчас спросить чат-бот Microsoft Bing, был ли закрыт чат-бот Google Bard, он ответит «нет», хотя ещё пару часов назад ответ был противоположным. Microsoft утверждал о закрытии конкурента, ссылаясь в качестве доказательства на новостную статью о твите, в котором рассказывается о том, как пользователь спросил Bard, когда он будет закрыт, и Bard ответил, что уже закрыт, ссылаясь на комментарий с Hacker News, в котором кто-то пошутил, что это произошло, а кто-то другой использовал ChatGPT для написания фейковой новости об этом событии.

Источник изображения: Pixabay

То, что чат-бот Microsoft Bing теперь исправил свою ошибку можно интерпретировать по-разному: или как демонстрацию возможности быстрой корректировки генеративного ИИ, или что системы на базе ИИ настолько бесконечно изменчивы, что становится привычным получать сообщения об их очередных ошибках.

Описанная ситуация — ранний признак масштабных мистификаций и дезинформаций, исходящих от искусственного интеллекта, который не может адекватно оценивать надёжные источники новостей, неправильно воспринимает истории о себе и ошибочно информирует пользователя о собственных возможностях. В данном случае всё началось из-за одного шутливого комментария на Hacker News. Трудно представить последствия в случае продуманной и преднамеренной попытки вывести чат-боты из строя.

Это смехотворная ситуация, но с потенциально серьёзными последствиями. Учитывая неспособность языковых моделей ИИ надёжно отличать факты от вымысла, их широкое применение грозит оставить за собой шлейф дезинформации и недоверия, информационные провокации, которые невозможно полностью подтвердить или авторитетно опровергнуть. Всё потому, что Microsoft, Google и OpenAI решили, что доля рынка важнее безопасности.

Эти компании могут размещать сколько угодно заявлений об отказе от ответственности в своих чат-ботах, утверждая, что это просто «эксперимент», а не полноценная поисковая система, но уже описаны множественные случаи распространения дезинформации чат-ботами на базе ИИ. А теперь они ещё и начали ссылаться на ошибки друг друга…

Meta✴, Twitter, Google и Microsoft, а также другие техногиганты и медиакомпании намерены единым фронтом бороться с онлайн-дезинформацией в соответствии с новейшим вариантом правил « Практического кодекса по дезинформации», опубликованных Еврокомиссией и наконец подписанным десятками структур.

Источник изображения: Austin Distel/unsplash.com

Кодекс представляет собой набор обязательств, которые подписавшие его должны выполнять для борьбы с цифровыми фейками. Среди таких мер — демонетизация дезинформации, отказ в размещении рекламы рядом с фейковыми новостями или иной способ блокировки получения прибыли от распространения дезинформации онлайн. Кроме того, политическая реклама должна быть недвусмысленно маркирована.

Дополнительно предусматриваются механизмы, с помощью которых данные с социальных медиаплатформ должны стать более «прозрачными» и доступными исследователям, а также должна поддерживаться и работа людей, занимающихся фактчекингом. Как сообщает The Register, ЕС обновил свои правила не в последнюю очередь из-за распространения фейковых аккаунтов, ботов и сгенерированных ИИ-системами дипфейков. Подписавшие документ обещают обнародовать свою внутреннюю политику, посвящённую борьбе с манипуляциями контентом, и должны доказать, что их алгоритмы, используемые для распознавания и модерации дипфейков, заслуживают доверия.

На данный момент новый вариант кодекса подписали 33 организации, включая социальные платформы, вендоров программного обеспечения, медиакомпании и участников рынка рекламы. Хотя подписание добровольно, некоторые его положения обязательны к исполнению всеми компаниями в соответствии с европейским законом Digital Services Act (DSA) — их нарушение может повлечь штраф в размере 6 % от годовой выручки.

У подписавших будет шесть месяцев на принятие мер по борьбе с дезинформацией. Ожидается, что они представят Еврокомиссии детализированные доклады о принятых мерах уже в начале 2023 года.

Владельцы крупнейших инернет-сервисов, включая Meta✴, Twitter, Google, Microsoft и TikTok, согласились подчиниться европейской инициативе по борьбе с дезинформацией и обеспечить регулирующие органы стран ЕС доступом к необходимым данным.

Источник изображения: Capri23auto / pixabay.com

Как сообщает Financial Times, в Европе подготовлена новая версия «Практического кодекса по дезинформации» — документа, предписывающего технологическим платформам раскрывать данные об удалении и блокировке «вредоносного» контента в рекламе и промо-публикациях. Для противостояния «вредной дезинформации» платформам надлежит разработать необходимые инструменты, обеспечить сотрудничество с организациями, специализирующимися на проверке фактов и противодействию госпропаганде, а также устанавливать «индикаторы достоверности» на прошедших независимую проверку публикациях по наиболее важным вопросам.

Администрациям технологических платформ необходимо будет предоставлять отчёты по работе, сортируя данные по странам — до этого было достаточно отчётов по деятельности в мировых или общеевропейских масштабах. Администрации сервисов долгое время противились ужесточению контроля, однако национальные регулирующие органы начали требовать более конкретных данных для борьбы с дезинформацией в отдельных странах.

Кодекс в будущем обретёт силу правовой нормы, и применяться он будет на основании вступающего в силу в 2024 году Закона о цифровых услугах (DSA) ЕС, описывающего меры, которые технологические платформы обязаны принимать для борьбы с нелегальным контентом. Нарушение требований закона карается оборотным штрафом в размере 6 %.

Требования обновлённого документа предписывают платформам отчитываться с разбиением по странам о числе удалённых бот-аккаунтов, об алгоритмах искусственного интеллекта, фильтрующих фейковые новости, а также о штате модераторов контента в каждой стране. Кроме того, платформам предписывается устанавливать и интегрировать в свои системы инструменты маркировки дезинформации.