Meta✴ обновила политику присвоения маркировки «Создано ИИ» публикациям в соцсетях после того, как размещённые некоторыми пользователями изображения начали получать такой статус, хотя в действительности это были фотографии, которые подверглись некоторому редактированию.

Источник изображения: Alexandra_Koch / pixabay.com

Во многих случаях контент в соцсетях помечался как созданный искусственным интеллектом лишь потому, что он был отредактирован в Adobe Photoshop, но не полностью сгенерирован нейросетью вроде Stable Diffusion или DALL-E. При экспорте изображения из Photoshop в него включаются метаданные, которые, по сути, просто выполняют функцию отказа от ответственности — некоторые инструменты графического редактора действительно работают на базе генеративного ИИ, а значит, и само изображение может быть изменено ИИ. Как только автоматизированные системы Meta✴ решали, что контент был частично «Создан ИИ», пользователь удалить эту метку уже не мог. Но полностью созданное ИИ изображение и небольшая правка настоящей фотографии — далеко не одно и то же, поэтому присвоение метки «Создано ИИ» в обоих случаях едва ли поможет аудитории.

В Meta✴ приняли решение разделить редактирование при помощи ИИ и полностью созданные ИИ изображения. «Мы обнаружили, что наши пометки, основанные на этих индикаторах, не всегда соответствовали ожиданиям людей и не всегда предоставляли достаточный контекст. <..> мы заменим пометку „Создано ИИ“ на „Информация об ИИ“, нажав на которую люди смогут получить дополнительные сведения», — сообщили в Meta✴.

В заботе о благе пользователей компания решила помечать созданный ИИ контент, но развёрнутая ей система полагалась на стандарт Content Credentials, принятый Коалицией за происхождение и подлинность контента (Coalition for Content Provenance and Authenticity, C2PA). Этот стандарт предполагает простой добавление метаданных в файл — продукты Adobe добавляют его при любой степени редактирования с участием ИИ, и эти данные можно легко удалить, например, сделав снимок экрана и вставив изображение в новый документ. А универсального решение для выявления созданных ИИ материалов до сих пор не существует — пользователям интернета рекомендуется проявлять бдительность.

Эксперимент по маркировке радиоэлектронной продукции, который проводится в России с 1 декабря прошлого года, будет распространён на ноутбуки, смартфоны, печатные платы и другую продукцию. Правительство РФ утвердило постановление, в соответствии с которым маркировка смартфонов и ноутбуков будет тестироваться с 10 июня 2024 года по 30 апреля 2025 года, а печатных плат — с 1 июля 2024 года по 31 августа 2025 года.

Источник изображения: Pixabay

«Расширение эксперимента по маркировке радиоэлектроники — логичный шаг. Мы говорили, что после старта эксперимента в отношении светотехники планомерно будем развивать маркировку и других электронных изделий», — комментировал ранее данный вопрос замглавы Минпромторга РФ Василий Шпак. Он добавил, что маркировка должна защитить российских граждан от покупки поддельной продукции, а также отсечь от госзакупок производителей, которые только делают вид, что производят товары на территории России. По его мнению, это также должно дать серьёзный стимул для развития отечественного производства электроники.

Напомним, на момент начала проведения эксперимента по маркировке электроники в декабре прошлого года в него были включены розетки, светочувствительные проводники, лампы и другая светотехника (в общей сложности 15 видов продукции). По данным Минпромторга, в настоящее время участие в пилотном проекте по маркировке радиоэлектроники принимают 70 компаний.

В России готовится сразу несколько инициатив по маркировке игр — об этом сообщило издание «Коммерсантъ». Соответствующие проекты уже готовят Организация развития видеоигровой индустрии (РВИ) и Минэкономики РФ с «Леста Игры» и VK Play.

Источник изображения: «Леста Игры»

Инициатива РВИ называется «Зелёная маркировка», сам эксперимент будет добровольным и должен стартовать в начале 2025 года. Пометки станут получать продукты, соответствующие трём критериям: проект сделан в РФ, он содержит в себе обучающие материалы и является киберспортивной дисциплиной. Глава организации Василий Овчинников подчеркнул, что список критериев будет пополняться.

Также руководитель РВИ указал на ключевое преимущество прохождения «Зелёной маркировки» — содействие с рекламным продвижением по разным каналам. Игры с пометкой «Сделано в России» начнут рекламировать институты развития, которые продвигают отечественные продукты.

Участие в эксперименте РВИ подтвердили ассоциация «Р.А.Д.И. Видеоигр» (DNS, diHouse, «Бука», ЭМСИ, «Ачивка» и др.), члены Ассоциации развития киберспортивной инфраструктуры (АРКИ; входят сети Colizeum, True Gamers, CyberX), магазин приложений AppBazar и другие организации.

Другая инициатива с маркировкой видеоигр стартует уже этим летом, её инициатором выступает Минэкономики РФ совместно с «Леста Игры» и VK Play. В комментарии изданию «Коммерсантъ» представитель ведомства подчеркнул, что предложенный в рамках эксперимента подход позволит «сформировать опыт применения базовых правовых механизмов и определений, в том числе апробировать саму технологию, и сформировать общее регулирование».

Представители VK Play, Astrum Entertainment и United Games (все три входят в ассоциацию АПРИОРИ) считают инициативу РВИ избыточной, поскольку она «не отражает контентного содержания игровых продуктов, а предложенные критерии не несут никакой пользы ни для разработчиков, ни для игроков».

В ближайшие месяцы Meta✴ начнёт помечать изображения, созданные искусственным интеллектом и загруженные в Facebook✴, Instagram✴ и Threads — так компания готовится к американским выборам. Пользователей платформ, загрузивших созданные ИИ реалистичные аудио- и видеофайлы, но отказавшихся раскрыть их происхождение, будет ожидать наказание.

Источник изображения: Gerd Altmann / pixabay.com

Президент Meta✴ по международным делам Ник Клегг (Nick Clegg) заявил, что эти меры призваны активизировать технологическую отрасль: генерируемые ИИ медиафайлы всё труднее отличить от настоящих. В компании также разрабатываются инструменты для обнаружения созданных ИИ материалов, даже если их метаданные были отредактированы. У Meta✴ есть собственный генератор изображений Imagine, и созданные им картинки на платформах компании уже маркируются водяным знаком Imagined with AI; таким же образом будут помечаться картинки, появившиеся на свет благодаря инструментам Google, OpenAI, Microsoft, Adobe, Midjourney и Shutterstock.

Технологическая отрасль, по мнению господина Клегга, всё больше отстаёт в разработке стандартов идентификации созданных ИИ аудио и видео — Meta✴ приходится внимательно следить за тем, как они могут использоваться для подлога, но выявлять все материалы самостоятельно ей не под силу. Компания при поддержке партнёров развивает несколько инициатив по обеспечению подлинности контента. Adobe представила систему Content Credentials маркировки ИИ-контента в метаданных и при выводе на сайты; Google недавно представила новую версию водяного знака SynthID для аудиофайлов. Meta✴ вскоре начнёт требовать от своих пользователей раскрывать информацию о генерируемых ИИ реалистичных видео- и аудиозаписях, добавил Клегг. Тех, кто этого не сделает, будут ожидать последствия: от предупреждения до удаления публикации с таким содержимым.

В этом году в США пройдут выборы президента, и в преддверии этого события уже появилось множество созданных ИИ вирусных постов от лица политиков. Но, по мнению Клегга, такие материалы либо не имеют политического веса, либо оперативно обнаруживаются администрацией платформ. В Meta✴ также стартует тестирование больших языковых моделей, обученных по стандартам сообщества — они выступят как вспомогательный инструмент для модераторов-людей.

Adobe представила логотип, который будет применяться для обозначения контента, созданного или отредактированного с использованием инструментов искусственного интеллекта.

Источник изображений: contentcredentials.org

Решение Content Credentials было разработано Adobe при участии ряда партнёров, в том числе BBC, Microsoft, Nikon и Truepic. Информация о происхождении изображения, видеозаписи или PDF-файла добавляется в его метаданные цифровой камерой или графическим редактором и записывается в массив метаданных, где указывается, использовались ли при его создании либо редактировании алгоритмы искусственного интеллекта. Соответствующая информация добавляется автоматически в Adobe Photoshop и Premiere, а скоро её поддержка появится и в Bing Image Creator — Microsoft пока использует собственную технологию маркировки, но планирует перейти на Content Credentials.

Далее, когда контент выводится поддерживающим данную функцию приложением или браузером (реализуется при помощи JavaScript), в правом верхнем углу изображения появляется логотип в виде строчных букв «cr», клик по которому выводит всплывающее окно с информацией об изображении. Вызывающий сомнения файл можно будет также загрузить на специальный сайт, который покажет необходимые метаданные.

Adobe — не единственная компания, которая, следуя своему обязательству, предложила маркировку ИИ-контента. Ранее собственное решение под названием SynthID представила Google, которая предпочла внедрение водяных знаков, не видных человеческому глазу, но читаемых компьютерами — недавно американские учёные опровергли эффективность такого метода. Едва ли более сложной задачей окажется и подделка метаданных.

Учёные Мэрилендского университета (США) опубликовали результаты исследования, в рамках которого было установлено, что водяные знаки, вводимые платформами искусственного интеллекта при генерации изображения, можно удалить.

Источник изображения: arxiv.org

ИИ-генераторы изображений сегодня являются общедоступными, и люди всё чаще применяют их для создания «фотографий» и даже видео того, чего никогда не было. Эти произведения могут появляться как шутка или с целью преднамеренного дезинформирования окружающих — важно то, что они достаточно правдоподобны, чтобы ввести человека в заблуждение. Власти предлагают разработчикам систем ИИ маркировать подобный контент, но на практике это оказывается не так просто.

Исследователи из Мэрилендского университета поставили перед собой задачу изучить эффективность методов выявления изображений, созданных с помощью ИИ. Как выяснилось, создаваемые при генерации изображений водяные знаки легко удаляются при помощи диффузионной очистки или атаки с подменой модели. Диффузионная очистка, то есть добавление к изображению шума с его последующим удалением, позволяет уничтожать водяные знаки, размещённые с использованием методов с низким уровнем возмущений, таких как RivaGAN и WatermarkDM. Для методов с высоким уровнем возмущений, таких как StegaStamp, использована атака с подменой модели — она заставляет используемые для анализа ИИ системы идентифицировать сгенерированные изображения как настоящие.

Это плохие новости для Alphabet, Amazon, Meta✴, Microsoft и OpenAI — все эти компании ранее обязались разработать технологии маркировки ИИ-контента для борьбы с дезинформацией. С другой стороны, сама идея маркировки изображений, созданных ИИ-генераторами, не предполагает полной защиты от дезинформации, ведь они не видны глазу, и среднестатистический пользователь интернета едва ли будет проверять каждое изображение, которое он встречает, на подлинность. Это значит, что маркировка полезна только в тех случаях, когда подозрение уже возникло.

Платформа для создания коротких видеороликов TikTok объявила о запуске новой функциональности, которая позволит авторам явно указывать, что их контент был создан с помощью ИИ. Это нововведение было впервые замечено пользователями ещё в прошлом месяце. Инициатива направлена на повышение прозрачности и честности при создании контента.

Источник изображения: TikTok

Согласно новым правилам, создатели контента обязаны раскрывать информацию о том, создавался ли материал с использованием ИИ. При создании видео или фото появится напоминание о необходимости включить функцию маркировки. Метка «AI» будет размещаться под именем пользователя в нижнем левом углу видеоролика. Компания подчеркнула, что немаркированный ИИ-контент может быть удалён.

В ближайшее время TikTok планирует начать тестирование автоматической маркировки всего ИИ-контента. Это станет частью стремления компании обеспечить прозрачность и предотвратить распространение поддельного контента, который уже успел набрать миллионы просмотров благодаря использованию программ для клонирования голоса, создания фейковых песен и видео с участием звёзд.

Кроме того, TikTok обязал создателей фильтров и эффектов переименовать инструменты, работающие на основе ИИ, добавив в их название аббревиатуру «AI». Так, например, фильтр для лица Bold Glamour, появившийся в TikTok в марте, пройдёт процедуру переименования.

TikTok стремится создать среду, где пользователи смогут с полной уверенностью отличить настоящий контент от созданного ИИ. Это поможет предотвратить распространение дезинформации и поддержит доверие аудитории к платформе.

В США запущена программа Cyber Trust Mark, предполагающая оценку уровня безопасности устройств Интернета вещей и, в частности, всевозможной потребительской умной бытовой техники, устройств умного дома и носимой смарт-электроники, а также их соответствующую маркировку. Программа призвана показать жителям страны, что приобретаемые ими устройства с подключением к интернету обладают защитой от кибератак.

Источник изображения: FCC

Устройства Интернета вещей, к которым из потребительской электроники относятся в том числе фитнес-трекеры, маршрутизаторы, детские трекеры, умные холодильники и прочее, справедливо считаются уязвимыми: они поставляются с простыми паролями по умолчанию, и для них редко выходят обновления безопасности — взломать такие устройства зачастую действительно несложно. Новые критерии безопасности для устройств Интернета вещей предложил (PDF) Национальный институт стандартов и технологий США (NIST).

Список мер защиты включает в себя уникальные пароли по умолчанию для каждого устройства, защиту сохраняемых и передаваемых данных, поддержку регулярных обновлений ПО, а также средства обнаружения взломов. Предусматриваются также стандарты защиты потребительских маршрутизаторов, уязвимости в прошивках которых приводят к тому, что сетевое оборудование оказывается включённым в ботнеты — сети, используемые в DDoS-атаках. Перечень стандартных требований будет утверждён к концу 2023 года, и в 2024 году на соответствующие этим требованиям товары будет наноситься маркировка Cyber Trust Mark — значок с изображением щита. Маркировка также предусматривает QR-код, содержащий ссылку на национальный реестр сертифицированных устройств и актуальную информацию о безопасности.

Американским розничным сетям рекомендовано отдавать приоритет товарам с маркировкой Cyber Trust Mark — к инициативе уже присоединились Amazon и Best Buy. Идею также поддержали производители техники: Cisco, Google, LG, Qualcomm и Samsung.