Сегодня 06 мая 2025
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

Инженеры MIT придумали два способа защиты изображений от создания дипфейков и ИИ-редактирования

Инженеры Лаборатории компьютерных наук и искусственного интеллекта (CSAIL) при Массачусетском технологическом институте (MIT) предложили технологию PhotoGuard, которая усложняет изменение изображений при помощи алгоритмов искусственного интеллекта.

 Слева направо: исходное изображение, отредактированное изображение без защиты, отредактированное изображение с защитой «кодировщик», отредактированное изображения с «диффузионной» защитой. Источник изображения: MIT

Слева направо: исходное изображение, отредактированное изображение без защиты, отредактированное изображение с защитой «кодировщик», отредактированное изображения с «диффузионной» защитой. Источник изображения: MIT

Основанные на ИИ генераторы изображений Dall-E и Stable Diffusion — это лишь начало новой эпохи обработки графики. ИИ может не только генерировать новые картинки, но и с высоким качеством редактировать существующие, открывая простор для потенциальных злоупотреблений в виде дипфейков. Инженеры MIT CSAIL предложили технологию PhotoGuard, способную помочь защититься от подобных инцидентов.

Технология включает два метода атак на алгоритмы ИИ: «кодировщик» (encoder) и «диффузия» (diffusion). Первый метод добавляет скрытое представление защищаемого изображения — технология особым образом изменяет отдельные пиксели на картинке и не позволяет ИИ распознать содержимое картинки, а значит, блокирует для него возможность её отредактировать.

Второй, более продвинутый и ресурсоёмкий метод «диффузионной» атаки маскирует в «глазах» ИИ одно изображение под другое. В результате ИИ пытается изменить лишь ту картинку, которую он «видит», но не трогает исходную, в результате чего генерируемое им изображение выглядит нереалистично.

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
Отказ OpenAI от перехода на коммерческие рельсы не снимет претензии Илона Маска 27 мин.
Акционеры VK одобрили предложение провести допэмиссию акций на сумму до 115 млрд рублей 46 мин.
OpenAI раскрыла истинную причину подхалимского поведения ChatGPT 3 ч.
Разработчики подали новый иск против Apple — теперь за невыполнение решения суда 3 ч.
OpenAI всё-таки отказалась от преобразования в коммерческую компанию 3 ч.
Журналисты показали сражение с многоглазым козлом-шаманом из Elden Ring Nightreign — фанаты заинтригованы 9 ч.
«10 лет Гвинта»: CD Projekt Red пригласила игроков на празднование юбилея The Witcher 3: Wild Hunt 10 ч.
Календарь релизов — 5–11 мая: «Приключения капитана Блада», Hordes of Hunger и The Midnight Walk 11 ч.
Антимонопольный иск против Google может привести к исчезновению Firefox 12 ч.
Рынок DLP-систем взлетел на 40 % после принятия закона о штрафах за утечки персональных данных 12 ч.
До конца следующего года Waymo удвоит количество роботакси и наладит производство минивэнов Zeekr RT 2 ч.
Новая статья: ИИтоги апреля 2025 г.: шутки в сторону 9 ч.
ЦОД Испании и Португалии успешно пережили крупнейший «блэкаут» в истории стран, а вот телеком-инфраструктура испытала серьёзные проблемы 9 ч.
AOC выпустила 27-дюймовый игровой IPS-монитор Q27G4K с 1440p и 400 Гц 9 ч.
Индонезия намерена построить АЭС на 10 ГВт в рамках масштабного энергетического экопроекта 10 ч.
Google и Broadcom совместно обеспечат кибербезопасность своих решений 13 ч.
США готовят закон об отслеживании ИИ-чипов после продажи, чтобы пресечь их контрабанду в Китай 13 ч.
1 Пбит/с через Атлантику: Meta намерена построить самый быстрый подводный кабель 13 ч.
Unitree представила робопса-пожарного с брандспойтом на месте головы 16 ч.
Профессиональная видеокарта Nvidia RTX Pro 6000 Blackwell Workstation Edition с 96 Гбайт GDDR7 поступила в продажу за €9000 16 ч.
Включить темный режим