Китай вслед за ЕС и США решил ввести новые нормы в отношении контента, созданного генеративным искусственным интеллектом. Эти требования предписывают маркировать такие материалы во избежание распространения недостоверной информации.

Источник изображения: Google DeepMind / unsplash.com

Государственная канцелярия интернет-информации КНР (Cyberspace Administration of China, CAC) совместно с тремя другими ведомствами объявила о введении нового набора норм, согласно которым разработчики будут обязаны маркировать сгенерированные ИИ материалы. Маркировка либо станет частью самого созданного ИИ контента, либо будет добавляться в метаданные. Новые требования вступают в силу 1 сентября.

Введение таких мер объясняется бурным развитием генеративного ИИ, способного создавать контент в любом формате: текст, изображения и даже имитацию человеческого голоса. В Европе требование о маркировке ИИ-контента закреплено в региональном «Законе об ИИ», а в США аналогичное требование содержится в подписанном президентом Джо Байденом указе.

«Закон о маркировке поможет пользователям выявлять дезинформацию и возложит на поставщиков услуг ответственность за маркировку их контента. Это сделано для того, чтобы сократить злоупотребления, связанные с материалами, созданными с помощью ИИ», — говорится в заявлении китайского ведомства. Закон также обязывает администрации магазинов приложений проверять наличие этой функции в размещаемом на их площадках ПО.

При этом платформы по-прежнему могут предлагать созданный ИИ контент без маркировки, если они соблюдают соответствующие правила и предоставляют такой контент по запросу пользователей. В разработке новых норм приняли участие также Министерство промышленности и информационных технологий, Министерство общественной безопасности и Национальное управление радио и телевидения Китая.

С 1 сентября в России может быть введена обязательная маркировка некоторых видов радиоэлектроники, в том числе смартфонов и ноутбуков, пишет «Коммерсантъ» со ссылкой на подготовленный Минпромторг проект постановления. Маркировка будет вводиться поэтапно: сначала появится требование регистрации поставщиков, а с 1 декабря — нанесение маркировки на вводимую в оборот продукцию. Система уже работает в рамках добровольного эксперимента с 1 декабря 2023 года.

Заместитель главы Минпромторга Екатерина Приезжаева сообщила во вторник на заседании круглого стола, посвящённого работе системы маркировки, что в настоящее время в России маркировке подлежат 17 товарных групп (в том числе лекарства, вода, обувь, табак), и по шести из них, включая кресла-каталки, антисептики, БАДы, она стала обязательной с 2023 года. Ещё 11 систем прослеживаемости товаров начали работу в прошлом году в режиме эксперимента (в том числе для рыбных консервов, кормов для животных, детских игрушек). С 15 января министерство запустило эксперименты по маркировке косметики и бытовой химии, пива и слабоалкогольных напитков в банках.

По данным Центра развития перспективных технологий (ЦРПТ; оператора системы), с введением маркировки в 2023 году оборот табачной продукции с нарушением установленных цен сократился за год на 21 %, продажи воды и парфюмерии без разрешительной документации — на 98 и 85 % соответственно, оборот немаркированной обуви — на 62 %.

В ЦРПТ пояснили, что такой эффективности удалось достичь благодаря интеграции системы маркировки с другими информсистемами, что позволяет выявить расхождения данных. В частности, интеграция систем маркировки и таможенных баз позволяет определять области контроля с вероятностью выше 70 %. По данным таможни, в 2023 году было выявлено более 1,3 тыс. тонн немаркированных товаров.

Интеграция системы маркировки с базами госорганов ведётся с 2022 года по всем контрольным ведомствам. Также проводится внедрение индикаторов рисков, при срабатывании которых проводят адресные проверки. На данный момент по десяти товарным группам внедрено 30 индикаторов, также отдельно утверждены индикаторы по лекарствам и пиву.

В дальнейшем предполагается введение запрета на движение товаров, не соответствующих требованиям маркировки. В 2023 году был запущен эксперимент по блокировке продажи таких товаров на кассах (например, не «пробиваются» просроченные товары, продукция с кодом маркировки, который уже выведен из оборота). Этот механизм предполагается поэтапно внедрять с 1 апреля на обязательной основе с охватом 12 товарных групп, включая табак, воду, молочную продукцию, а в перспективе — с охватом всех маркируемых товаров.

Также запущен эксперимент по «привязке» разрешительных документов к маркировочным кодам, что позволит сверять данные поставщиков о товарах с информацией в разрешительных документах.

Аналогичные изменения Минпромторг предполагает внести в наднациональное законодательство ЕАЭС.

Valve собирается составить конкуренцию Sony PlayStation, Microsoft Xbox и даже Meta✴ Quest, значительно расширив ассортимент устройств в следующем году. Компания намеревается выпускать собственное оборудование и сертифицировать продукцию партнёров, чтобы сформировать всеобъемлющую игровую экосистему, сообщает The Verge.

Источник изображений: Valve

Valve готовит к выпуску гарнитуру виртуальной реальности под кодовым названием Deckard, пару VR-контроллеров Roy, традиционный геймпад Steam Controller 2 с кодовым именем Ibex, а также игровую приставку для подключения к телевизору Fremont. Таким образом, компания собирается бросить вызов Sony, Microsoft и Meta✴. Эти компании прочно заняли свои ниши, но успех Steam Deck показал их уязвимость — потребители хотят иметь доступ к большой библиотеке игр в любое время и в любом месте. Пока конкуренты раздумывают, как реагировать на эту тенденцию, Valve выстраивает экосистему оборудования на базе SteamOS, включая устройства, созданные в партнёрстве с другими производителями.

Сторонние компании помогут обеспечить современным геймерам доступ к играм для Windows без необходимости сталкиваться с ограничениями операционной системы от Microsoft. Многие производители ПК уже выпустили конкурентов Steam Deck, но из-за отсутствия поддержки Valve на этих устройствах приходится устанавливать Windows, которая не обеспечивает оперативного запуска, приостановки и возобновления работы игр. Большинство подобных устройств оснащаются чипами AMD, предлагающими высокую производительность при низком энергопотреблении. Теперь же Valve обнародоваладокумент , который раскрывает её дальнейшую стратегию.

Компания намерена ввести маркировку Powered by SteamOS для продукции сторонних производителей. Её будут получать устройства, работающие на SteamOS, установленной в тесном сотрудничестве с Valve. Также предусмотрена маркировка для «одобренных Valve контроллеров», устройств SteamVR и Steam Link, предназначенных для трансляции игр с одного устройства на другое. По неофициальной информации, такие устройства будут отличаться высокой совместимостью. Например, Valve Steam Controller 2 сможет использоваться для управления играми в виртуальной реальности, а VR-контроллеры — для игр на телевизионной приставке.

Valve не собирается ограничиваться исключительно x86-процессорами AMD, как на Steam Deck. В гарнитуре виртуальной реальности будут применяться чипы Arm, обеспечивающие продолжительное время автономной работы и снижающие массу устройства. Более мощные процессоры AMD станут полезными для консоли, предназначенной для подключения к телевизору.

Более десяти лет назад Valve пыталась запустить проект Steam Machines, но тогда экосистема была не готова — проект провалился, и партнёры начали выпускать приставки на Windows. К моменту выхода Steam Deck в распоряжении Valve уже был эмулятор Proton, позволяющий запускать игры для Windows без ущерба для производительности. Возможно, сейчас проект имеет больше шансов на успех.

Meta✴ обновила политику присвоения маркировки «Создано ИИ» публикациям в соцсетях после того, как размещённые некоторыми пользователями изображения начали получать такой статус, хотя в действительности это были фотографии, которые подверглись некоторому редактированию.

Источник изображения: Alexandra_Koch / pixabay.com

Во многих случаях контент в соцсетях помечался как созданный искусственным интеллектом лишь потому, что он был отредактирован в Adobe Photoshop, но не полностью сгенерирован нейросетью вроде Stable Diffusion или DALL-E. При экспорте изображения из Photoshop в него включаются метаданные, которые, по сути, просто выполняют функцию отказа от ответственности — некоторые инструменты графического редактора действительно работают на базе генеративного ИИ, а значит, и само изображение может быть изменено ИИ. Как только автоматизированные системы Meta✴ решали, что контент был частично «Создан ИИ», пользователь удалить эту метку уже не мог. Но полностью созданное ИИ изображение и небольшая правка настоящей фотографии — далеко не одно и то же, поэтому присвоение метки «Создано ИИ» в обоих случаях едва ли поможет аудитории.

В Meta✴ приняли решение разделить редактирование при помощи ИИ и полностью созданные ИИ изображения. «Мы обнаружили, что наши пометки, основанные на этих индикаторах, не всегда соответствовали ожиданиям людей и не всегда предоставляли достаточный контекст. <..> мы заменим пометку „Создано ИИ“ на „Информация об ИИ“, нажав на которую люди смогут получить дополнительные сведения», — сообщили в Meta✴.

В заботе о благе пользователей компания решила помечать созданный ИИ контент, но развёрнутая ей система полагалась на стандарт Content Credentials, принятый Коалицией за происхождение и подлинность контента (Coalition for Content Provenance and Authenticity, C2PA). Этот стандарт предполагает простой добавление метаданных в файл — продукты Adobe добавляют его при любой степени редактирования с участием ИИ, и эти данные можно легко удалить, например, сделав снимок экрана и вставив изображение в новый документ. А универсального решение для выявления созданных ИИ материалов до сих пор не существует — пользователям интернета рекомендуется проявлять бдительность.

Эксперимент по маркировке радиоэлектронной продукции, который проводится в России с 1 декабря прошлого года, будет распространён на ноутбуки, смартфоны, печатные платы и другую продукцию. Правительство РФ утвердило постановление, в соответствии с которым маркировка смартфонов и ноутбуков будет тестироваться с 10 июня 2024 года по 30 апреля 2025 года, а печатных плат — с 1 июля 2024 года по 31 августа 2025 года.

Источник изображения: Pixabay

«Расширение эксперимента по маркировке радиоэлектроники — логичный шаг. Мы говорили, что после старта эксперимента в отношении светотехники планомерно будем развивать маркировку и других электронных изделий», — комментировал ранее данный вопрос замглавы Минпромторга РФ Василий Шпак. Он добавил, что маркировка должна защитить российских граждан от покупки поддельной продукции, а также отсечь от госзакупок производителей, которые только делают вид, что производят товары на территории России. По его мнению, это также должно дать серьёзный стимул для развития отечественного производства электроники.

Напомним, на момент начала проведения эксперимента по маркировке электроники в декабре прошлого года в него были включены розетки, светочувствительные проводники, лампы и другая светотехника (в общей сложности 15 видов продукции). По данным Минпромторга, в настоящее время участие в пилотном проекте по маркировке радиоэлектроники принимают 70 компаний.

В России готовится сразу несколько инициатив по маркировке игр — об этом сообщило издание «Коммерсантъ». Соответствующие проекты уже готовят Организация развития видеоигровой индустрии (РВИ) и Минэкономики РФ с «Леста Игры» и VK Play.

Источник изображения: «Леста Игры»

Инициатива РВИ называется «Зелёная маркировка», сам эксперимент будет добровольным и должен стартовать в начале 2025 года. Пометки станут получать продукты, соответствующие трём критериям: проект сделан в РФ, он содержит в себе обучающие материалы и является киберспортивной дисциплиной. Глава организации Василий Овчинников подчеркнул, что список критериев будет пополняться.

Также руководитель РВИ указал на ключевое преимущество прохождения «Зелёной маркировки» — содействие с рекламным продвижением по разным каналам. Игры с пометкой «Сделано в России» начнут рекламировать институты развития, которые продвигают отечественные продукты.

Участие в эксперименте РВИ подтвердили ассоциация «Р.А.Д.И. Видеоигр» (DNS, diHouse, «Бука», ЭМСИ, «Ачивка» и др.), члены Ассоциации развития киберспортивной инфраструктуры (АРКИ; входят сети Colizeum, True Gamers, CyberX), магазин приложений AppBazar и другие организации.

Другая инициатива с маркировкой видеоигр стартует уже этим летом, её инициатором выступает Минэкономики РФ совместно с «Леста Игры» и VK Play. В комментарии изданию «Коммерсантъ» представитель ведомства подчеркнул, что предложенный в рамках эксперимента подход позволит «сформировать опыт применения базовых правовых механизмов и определений, в том числе апробировать саму технологию, и сформировать общее регулирование».

Представители VK Play, Astrum Entertainment и United Games (все три входят в ассоциацию АПРИОРИ) считают инициативу РВИ избыточной, поскольку она «не отражает контентного содержания игровых продуктов, а предложенные критерии не несут никакой пользы ни для разработчиков, ни для игроков».

В ближайшие месяцы Meta✴ начнёт помечать изображения, созданные искусственным интеллектом и загруженные в Facebook✴, Instagram✴ и Threads — так компания готовится к американским выборам. Пользователей платформ, загрузивших созданные ИИ реалистичные аудио- и видеофайлы, но отказавшихся раскрыть их происхождение, будет ожидать наказание.

Источник изображения: Gerd Altmann / pixabay.com

Президент Meta✴ по международным делам Ник Клегг (Nick Clegg) заявил, что эти меры призваны активизировать технологическую отрасль: генерируемые ИИ медиафайлы всё труднее отличить от настоящих. В компании также разрабатываются инструменты для обнаружения созданных ИИ материалов, даже если их метаданные были отредактированы. У Meta✴ есть собственный генератор изображений Imagine, и созданные им картинки на платформах компании уже маркируются водяным знаком Imagined with AI; таким же образом будут помечаться картинки, появившиеся на свет благодаря инструментам Google, OpenAI, Microsoft, Adobe, Midjourney и Shutterstock.

Технологическая отрасль, по мнению господина Клегга, всё больше отстаёт в разработке стандартов идентификации созданных ИИ аудио и видео — Meta✴ приходится внимательно следить за тем, как они могут использоваться для подлога, но выявлять все материалы самостоятельно ей не под силу. Компания при поддержке партнёров развивает несколько инициатив по обеспечению подлинности контента. Adobe представила систему Content Credentials маркировки ИИ-контента в метаданных и при выводе на сайты; Google недавно представила новую версию водяного знака SynthID для аудиофайлов. Meta✴ вскоре начнёт требовать от своих пользователей раскрывать информацию о генерируемых ИИ реалистичных видео- и аудиозаписях, добавил Клегг. Тех, кто этого не сделает, будут ожидать последствия: от предупреждения до удаления публикации с таким содержимым.

В этом году в США пройдут выборы президента, и в преддверии этого события уже появилось множество созданных ИИ вирусных постов от лица политиков. Но, по мнению Клегга, такие материалы либо не имеют политического веса, либо оперативно обнаруживаются администрацией платформ. В Meta✴ также стартует тестирование больших языковых моделей, обученных по стандартам сообщества — они выступят как вспомогательный инструмент для модераторов-людей.

Adobe представила логотип, который будет применяться для обозначения контента, созданного или отредактированного с использованием инструментов искусственного интеллекта.

Источник изображений: contentcredentials.org

Решение Content Credentials было разработано Adobe при участии ряда партнёров, в том числе BBC, Microsoft, Nikon и Truepic. Информация о происхождении изображения, видеозаписи или PDF-файла добавляется в его метаданные цифровой камерой или графическим редактором и записывается в массив метаданных, где указывается, использовались ли при его создании либо редактировании алгоритмы искусственного интеллекта. Соответствующая информация добавляется автоматически в Adobe Photoshop и Premiere, а скоро её поддержка появится и в Bing Image Creator — Microsoft пока использует собственную технологию маркировки, но планирует перейти на Content Credentials.

Далее, когда контент выводится поддерживающим данную функцию приложением или браузером (реализуется при помощи JavaScript), в правом верхнем углу изображения появляется логотип в виде строчных букв «cr», клик по которому выводит всплывающее окно с информацией об изображении. Вызывающий сомнения файл можно будет также загрузить на специальный сайт, который покажет необходимые метаданные.

Adobe — не единственная компания, которая, следуя своему обязательству, предложила маркировку ИИ-контента. Ранее собственное решение под названием SynthID представила Google, которая предпочла внедрение водяных знаков, не видных человеческому глазу, но читаемых компьютерами — недавно американские учёные опровергли эффективность такого метода. Едва ли более сложной задачей окажется и подделка метаданных.

Учёные Мэрилендского университета (США) опубликовали результаты исследования, в рамках которого было установлено, что водяные знаки, вводимые платформами искусственного интеллекта при генерации изображения, можно удалить.

Источник изображения: arxiv.org

ИИ-генераторы изображений сегодня являются общедоступными, и люди всё чаще применяют их для создания «фотографий» и даже видео того, чего никогда не было. Эти произведения могут появляться как шутка или с целью преднамеренного дезинформирования окружающих — важно то, что они достаточно правдоподобны, чтобы ввести человека в заблуждение. Власти предлагают разработчикам систем ИИ маркировать подобный контент, но на практике это оказывается не так просто.

Исследователи из Мэрилендского университета поставили перед собой задачу изучить эффективность методов выявления изображений, созданных с помощью ИИ. Как выяснилось, создаваемые при генерации изображений водяные знаки легко удаляются при помощи диффузионной очистки или атаки с подменой модели. Диффузионная очистка, то есть добавление к изображению шума с его последующим удалением, позволяет уничтожать водяные знаки, размещённые с использованием методов с низким уровнем возмущений, таких как RivaGAN и WatermarkDM. Для методов с высоким уровнем возмущений, таких как StegaStamp, использована атака с подменой модели — она заставляет используемые для анализа ИИ системы идентифицировать сгенерированные изображения как настоящие.

Это плохие новости для Alphabet, Amazon, Meta✴, Microsoft и OpenAI — все эти компании ранее обязались разработать технологии маркировки ИИ-контента для борьбы с дезинформацией. С другой стороны, сама идея маркировки изображений, созданных ИИ-генераторами, не предполагает полной защиты от дезинформации, ведь они не видны глазу, и среднестатистический пользователь интернета едва ли будет проверять каждое изображение, которое он встречает, на подлинность. Это значит, что маркировка полезна только в тех случаях, когда подозрение уже возникло.

Платформа для создания коротких видеороликов TikTok объявила о запуске новой функциональности, которая позволит авторам явно указывать, что их контент был создан с помощью ИИ. Это нововведение было впервые замечено пользователями ещё в прошлом месяце. Инициатива направлена на повышение прозрачности и честности при создании контента.

Источник изображения: TikTok

Согласно новым правилам, создатели контента обязаны раскрывать информацию о том, создавался ли материал с использованием ИИ. При создании видео или фото появится напоминание о необходимости включить функцию маркировки. Метка «AI» будет размещаться под именем пользователя в нижнем левом углу видеоролика. Компания подчеркнула, что немаркированный ИИ-контент может быть удалён.

В ближайшее время TikTok планирует начать тестирование автоматической маркировки всего ИИ-контента. Это станет частью стремления компании обеспечить прозрачность и предотвратить распространение поддельного контента, который уже успел набрать миллионы просмотров благодаря использованию программ для клонирования голоса, создания фейковых песен и видео с участием звёзд.

Кроме того, TikTok обязал создателей фильтров и эффектов переименовать инструменты, работающие на основе ИИ, добавив в их название аббревиатуру «AI». Так, например, фильтр для лица Bold Glamour, появившийся в TikTok в марте, пройдёт процедуру переименования.

TikTok стремится создать среду, где пользователи смогут с полной уверенностью отличить настоящий контент от созданного ИИ. Это поможет предотвратить распространение дезинформации и поддержит доверие аудитории к платформе.

В США запущена программа Cyber Trust Mark, предполагающая оценку уровня безопасности устройств Интернета вещей и, в частности, всевозможной потребительской умной бытовой техники, устройств умного дома и носимой смарт-электроники, а также их соответствующую маркировку. Программа призвана показать жителям страны, что приобретаемые ими устройства с подключением к интернету обладают защитой от кибератак.

Источник изображения: FCC

Устройства Интернета вещей, к которым из потребительской электроники относятся в том числе фитнес-трекеры, маршрутизаторы, детские трекеры, умные холодильники и прочее, справедливо считаются уязвимыми: они поставляются с простыми паролями по умолчанию, и для них редко выходят обновления безопасности — взломать такие устройства зачастую действительно несложно. Новые критерии безопасности для устройств Интернета вещей предложил (PDF) Национальный институт стандартов и технологий США (NIST).

Список мер защиты включает в себя уникальные пароли по умолчанию для каждого устройства, защиту сохраняемых и передаваемых данных, поддержку регулярных обновлений ПО, а также средства обнаружения взломов. Предусматриваются также стандарты защиты потребительских маршрутизаторов, уязвимости в прошивках которых приводят к тому, что сетевое оборудование оказывается включённым в ботнеты — сети, используемые в DDoS-атаках. Перечень стандартных требований будет утверждён к концу 2023 года, и в 2024 году на соответствующие этим требованиям товары будет наноситься маркировка Cyber Trust Mark — значок с изображением щита. Маркировка также предусматривает QR-код, содержащий ссылку на национальный реестр сертифицированных устройств и актуальную информацию о безопасности.

Американским розничным сетям рекомендовано отдавать приоритет товарам с маркировкой Cyber Trust Mark — к инициативе уже присоединились Amazon и Best Buy. Идею также поддержали производители техники: Cisco, Google, LG, Qualcomm и Samsung.