Сегодня 17 апреля 2025
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

Водяные знаки на ИИ-контенте оказалось относительно легко стереть

Учёные Мэрилендского университета (США) опубликовали результаты исследования, в рамках которого было установлено, что водяные знаки, вводимые платформами искусственного интеллекта при генерации изображения, можно удалить.

 Источник изображения: arxiv.org

Источник изображения: arxiv.org

ИИ-генераторы изображений сегодня являются общедоступными, и люди всё чаще применяют их для создания «фотографий» и даже видео того, чего никогда не было. Эти произведения могут появляться как шутка или с целью преднамеренного дезинформирования окружающих — важно то, что они достаточно правдоподобны, чтобы ввести человека в заблуждение. Власти предлагают разработчикам систем ИИ маркировать подобный контент, но на практике это оказывается не так просто.

Исследователи из Мэрилендского университета поставили перед собой задачу изучить эффективность методов выявления изображений, созданных с помощью ИИ. Как выяснилось, создаваемые при генерации изображений водяные знаки легко удаляются при помощи диффузионной очистки или атаки с подменой модели. Диффузионная очистка, то есть добавление к изображению шума с его последующим удалением, позволяет уничтожать водяные знаки, размещённые с использованием методов с низким уровнем возмущений, таких как RivaGAN и WatermarkDM. Для методов с высоким уровнем возмущений, таких как StegaStamp, использована атака с подменой модели — она заставляет используемые для анализа ИИ системы идентифицировать сгенерированные изображения как настоящие.

Это плохие новости для Alphabet, Amazon, Meta, Microsoft и OpenAI — все эти компании ранее обязались разработать технологии маркировки ИИ-контента для борьбы с дезинформацией. С другой стороны, сама идея маркировки изображений, созданных ИИ-генераторами, не предполагает полной защиты от дезинформации, ведь они не видны глазу, и среднестатистический пользователь интернета едва ли будет проверять каждое изображение, которое он встречает, на подлинность. Это значит, что маркировка полезна только в тех случаях, когда подозрение уже возникло.

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
«Уверены, игра будет стоить ожидания»: научно-фантастический шутер Metal Eden от создателей Ruiner не выйдет 6 мая 28 мин.
«Википедия» выпустила набор данных для обучения ИИ, чтобы боты не перегружали её серверы скрейпингом 2 ч.
«Яндекс» выкупил права на платформу для игрового облачного сервиса «Плюс Гейминг» 5 ч.
CD Projekt Red держит в тайне, выйдет ли The Witcher 3: Wild Hunt на Nintendo Switch 2 5 ч.
«Нанёс непоправимый ущерб индустрии»: глава New Blood Interactive раскритиковал влияние Escape from Tarkov на FromSoftware и игры в целом 6 ч.
Grok научился запоминать предпочтения пользователя 6 ч.
ИИ-помощник Gemini «прозрел» у бесплатных пользователей на Android 7 ч.
«Группа Астра» с партнёрами создала СП для развития и продвижения отечественной open source среды разработки OpenIDE 7 ч.
Доказательства скорой премьеры The Elder Scrolls IV: Oblivion Remastered обнаружили на сайте самой Bethesda 8 ч.
«Почти тотальное доминирование» поисковика Google может обойтись компании в £5 млрд 8 ч.
TSMC пообещала треть 2-нм и более тонких чипов выпускать в США, но фабрики будут готовые ещё не скоро 7 мин.
Motorola представила зелёный планшет Moto Pad 60 Pro с Dimensity 8300 и батареей на 10 200 мА·ч за $315 20 мин.
Synology против сторонних HDD в своих NAS — их функциональность искусственно ограничат 26 мин.
Archer Aviation запустит летающую электромаршрутку между Манхэттеном и ближайшими аэропортами 44 мин.
Tesla ответит в суде за махинации с показаниями одометров для ускоренного истечения гарантии 2 ч.
Seagate утверждает, что HDD гораздо экологичнее SSD с точки зрения углеродных выбросов 2 ч.
Motorola представила свой первый ноутбук — компактный Moto Book 60 с OLED, Intel Core и Wi-Fi 7 2 ч.
GeForce RTX 5060 Ti увернулась от дефицита — видеокарты не смели с полок сразу после старта продаж 2 ч.
Всем прокатным электросамокатам в России запретили ездить быстрее 20 км/ч 2 ч.
Robokos представила в России умных беспроводных роботов-газонокосилок RoboUP T600, RV600bi и RoboUP T1200 3 ч.