Сегодня 26 июля 2025
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

Водяные знаки на ИИ-контенте оказалось относительно легко стереть

Учёные Мэрилендского университета (США) опубликовали результаты исследования, в рамках которого было установлено, что водяные знаки, вводимые платформами искусственного интеллекта при генерации изображения, можно удалить.

 Источник изображения: arxiv.org

Источник изображения: arxiv.org

ИИ-генераторы изображений сегодня являются общедоступными, и люди всё чаще применяют их для создания «фотографий» и даже видео того, чего никогда не было. Эти произведения могут появляться как шутка или с целью преднамеренного дезинформирования окружающих — важно то, что они достаточно правдоподобны, чтобы ввести человека в заблуждение. Власти предлагают разработчикам систем ИИ маркировать подобный контент, но на практике это оказывается не так просто.

Исследователи из Мэрилендского университета поставили перед собой задачу изучить эффективность методов выявления изображений, созданных с помощью ИИ. Как выяснилось, создаваемые при генерации изображений водяные знаки легко удаляются при помощи диффузионной очистки или атаки с подменой модели. Диффузионная очистка, то есть добавление к изображению шума с его последующим удалением, позволяет уничтожать водяные знаки, размещённые с использованием методов с низким уровнем возмущений, таких как RivaGAN и WatermarkDM. Для методов с высоким уровнем возмущений, таких как StegaStamp, использована атака с подменой модели — она заставляет используемые для анализа ИИ системы идентифицировать сгенерированные изображения как настоящие.

Это плохие новости для Alphabet, Amazon, Meta, Microsoft и OpenAI — все эти компании ранее обязались разработать технологии маркировки ИИ-контента для борьбы с дезинформацией. С другой стороны, сама идея маркировки изображений, созданных ИИ-генераторами, не предполагает полной защиты от дезинформации, ведь они не видны глазу, и среднестатистический пользователь интернета едва ли будет проверять каждое изображение, которое он встречает, на подлинность. Это значит, что маркировка полезна только в тех случаях, когда подозрение уже возникло.

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
GPT-5 обещает серьёзный прогресс в практическом программировании и разработке ПО 5 ч.
Microsoft назвала Windows 11 24H2 самой стабильной за всю историю, что бы это ни значило 5 ч.
Новая статья: Tony Hawk’s Pro Skater 3 + 4 — кажется, вы что-то забыли. Рецензия 5 ч.
ВТБ провёл крупнейшее в России импортозамещение системы управления знаниями 6 ч.
Plants vs. Zombies Replanted скоро выйдет из тени — инсайдер раскрыл дату выхода переиздания культовой игры о противостоянии растений и зомби 6 ч.
Вышел релиз обновлённого «Кибер Хранилища» с массой оптимизаций для работы с кластерами S3 7 ч.
Microsoft рассказала, что ждёт Copilot в будущем: ИИ будет «жить», «стареть» и получит собственную комнату 8 ч.
«История про убийство нацистов всегда в моде»: Amazon запустила в производство сериал по Wolfenstein 8 ч.
Как много чемпионов: Bethesda похвасталась новыми успехами The Elder Scrolls IV: Oblivion Remastered 9 ч.
Google представила экспериментальный ИИ-генератор веб-приложений Opal 10 ч.
Проект Tesla Optimus сталкивается с проблемами и отстаёт от графика, но Маск и инвесторы сохраняют оптимизм 4 ч.
Несмотря на запреты США в Китай «просочились» передовые ускорители NVIDIA на $1 млрд 4 ч.
Смарт-часы под брендом Pebble снова появятся на рынке 5 ч.
DJI готовится к выходу на рынок роботов-пылесосов — первый продукт уже готов 5 ч.
SK Hynix запустит производство чипов GDDR7 ёмкостью 3 Гбайт — идеально для GeForce RTX 50 Super 5 ч.
Lian Li выпустила компактный корпус-аквариум O11D MINI V2 с поддержкой массивных видеокарт 8 ч.
«Народные» Ryzen Threadripper 9000 с четырёхканальной памятью и числом ядер до 64 поступят в продажу 31 июля 8 ч.
Китайская Unitree выпустила человекоподобного робота дешевле $6000 10 ч.
Масштабные сокращения в Intel не скажутся на графике выхода процессоров Panther Lake и Nova Lake 10 ч.
Kioxia начала поставки образцов более быстрых 218-слойных чипов TLC-флеш-памяти BiCS 9 10 ч.