Сегодня 05 сентября 2025
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

Водяные знаки на ИИ-контенте оказалось относительно легко стереть

Учёные Мэрилендского университета (США) опубликовали результаты исследования, в рамках которого было установлено, что водяные знаки, вводимые платформами искусственного интеллекта при генерации изображения, можно удалить.

 Источник изображения: arxiv.org

Источник изображения: arxiv.org

ИИ-генераторы изображений сегодня являются общедоступными, и люди всё чаще применяют их для создания «фотографий» и даже видео того, чего никогда не было. Эти произведения могут появляться как шутка или с целью преднамеренного дезинформирования окружающих — важно то, что они достаточно правдоподобны, чтобы ввести человека в заблуждение. Власти предлагают разработчикам систем ИИ маркировать подобный контент, но на практике это оказывается не так просто.

Исследователи из Мэрилендского университета поставили перед собой задачу изучить эффективность методов выявления изображений, созданных с помощью ИИ. Как выяснилось, создаваемые при генерации изображений водяные знаки легко удаляются при помощи диффузионной очистки или атаки с подменой модели. Диффузионная очистка, то есть добавление к изображению шума с его последующим удалением, позволяет уничтожать водяные знаки, размещённые с использованием методов с низким уровнем возмущений, таких как RivaGAN и WatermarkDM. Для методов с высоким уровнем возмущений, таких как StegaStamp, использована атака с подменой модели — она заставляет используемые для анализа ИИ системы идентифицировать сгенерированные изображения как настоящие.

Это плохие новости для Alphabet, Amazon, Meta, Microsoft и OpenAI — все эти компании ранее обязались разработать технологии маркировки ИИ-контента для борьбы с дезинформацией. С другой стороны, сама идея маркировки изображений, созданных ИИ-генераторами, не предполагает полной защиты от дезинформации, ведь они не видны глазу, и среднестатистический пользователь интернета едва ли будет проверять каждое изображение, которое он встречает, на подлинность. Это значит, что маркировка полезна только в тех случаях, когда подозрение уже возникло.

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
Сети, серверы, ИИ: HPE превзошла ожидания Уолл-стрит по квартальной выручке 53 мин.
Lenovo показала концепт ноутбука ThinkBook VertiFlex с поворотным дисплеем 3 ч.
Lenovo представила портативную консоль Legion Go 2 — 8,8" OLED, Ryzen Z2 Extreme и съёмные контроллеры 3 ч.
Этой осенью Waymo начнёт перевозить пассажиров на беспилотных такси в аэропорт Сан-Хосе 4 ч.
Китайским учёным удалось доказать существование у Марса твёрдого ядра 5 ч.
Intel не ранее следующего года определится с целесообразностью освоения техпроцесса 14A 6 ч.
OpenAI выпустит свой первый ИИ-чип в 2026 году при поддержке Broadcom — последней это сулит $10 млрд 6 ч.
Трамп пригрозил производителям чипов повышенными пошлинами, если они не готовы обосноваться в США 7 ч.
В Канаде двоим пациентам впервые вживили мозговые импланты Neuralink 7 ч.
AMD готовит ответ ИИ-серверам Nvidia — система MegaPod объединит 256 ускорителей Instinct MI500 и 64 процессора EPYC Verano 10 ч.