Сегодня 31 мая 2025
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

Инженеры MIT придумали два способа защиты изображений от создания дипфейков и ИИ-редактирования

Инженеры Лаборатории компьютерных наук и искусственного интеллекта (CSAIL) при Массачусетском технологическом институте (MIT) предложили технологию PhotoGuard, которая усложняет изменение изображений при помощи алгоритмов искусственного интеллекта.

 Слева направо: исходное изображение, отредактированное изображение без защиты, отредактированное изображение с защитой «кодировщик», отредактированное изображения с «диффузионной» защитой. Источник изображения: MIT

Слева направо: исходное изображение, отредактированное изображение без защиты, отредактированное изображение с защитой «кодировщик», отредактированное изображения с «диффузионной» защитой. Источник изображения: MIT

Основанные на ИИ генераторы изображений Dall-E и Stable Diffusion — это лишь начало новой эпохи обработки графики. ИИ может не только генерировать новые картинки, но и с высоким качеством редактировать существующие, открывая простор для потенциальных злоупотреблений в виде дипфейков. Инженеры MIT CSAIL предложили технологию PhotoGuard, способную помочь защититься от подобных инцидентов.

Технология включает два метода атак на алгоритмы ИИ: «кодировщик» (encoder) и «диффузия» (diffusion). Первый метод добавляет скрытое представление защищаемого изображения — технология особым образом изменяет отдельные пиксели на картинке и не позволяет ИИ распознать содержимое картинки, а значит, блокирует для него возможность её отредактировать.

Второй, более продвинутый и ресурсоёмкий метод «диффузионной» атаки маскирует в «глазах» ИИ одно изображение под другое. В результате ИИ пытается изменить лишь ту картинку, которую он «видит», но не трогает исходную, в результате чего генерируемое им изображение выглядит нереалистично.

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
Новая статья: Gamesblender № 728: SteamOS против Windows, анонсы Warhammer Skulls и вторая жизнь WRC 13 мин.
В Twitch появятся перемотка, вертикальные трансляции и не только 9 ч.
Суд склоняется к мягким мерам по устранению монополии Google в онлайн-поиске, но окончательное решение придётся подождать 11 ч.
Google запустила ИИ-генератор видео Veo 3 для мобильных устройств на Android и iOS 16 ч.
Microsoft добавила в «Блокнот» возможности форматирования текста почти как в Word 17 ч.
OpenAI хочет, чтобы ChatGPT стал личным секретарём для каждого 17 ч.
Новая статья: The Slormancer — Diablo без заморочек. Рецензия 24 ч.
Моддер уже добавил в Elden Ring Nightreign режим для двух игроков, о котором забыли разработчики 30-05 23:05
Sony сняла региональные ограничения со Stellar Blade на ПК, а в Steam вышла демоверсия игры 30-05 22:03
«Microsoft любыми способами должна отбить эти $70 млрд»: Activision возмутила игроков новой рекламой в Call of Duty: Black Ops 6 и Warzone 30-05 20:25
Игровые видеокарты спасли Nvidia от обрушения акций — продажи GeForce оказались рекордными в прошлом квартале 8 ч.
WSJ: план США по сдерживанию развития китайских технологий не работает 9 ч.
Dell получила рекордный объём заказов на ИИ-серверы и повысила прогноз по прибыли на год 10 ч.
Шум во благо: физики добились квантовой «гиперзапутанности» атомов при помощи лазерного пинцета 11 ч.
Скидки на iPhone сработали: продажи иностранных смартфонов в Китае слегка подросли в апреле 11 ч.
InnoGrit представила SSD серии N3X — альтернативу Intel Optane с показателем IOPS до 3,5 млн 12 ч.
OpenYard представила серверы RS102I и RS202I на базе Intel Xeon Emerald Rapids 12 ч.
Илон Маск начал проталкивать в США закон о беспилотном транспорте 13 ч.
1 000 000 Гбит/с на 1800 км: японцы установили рекорд скорости передачи данных по почти обычному оптоволокну 13 ч.
Synopsys уже прекратила обслуживать разработчиков чипов на территории Китая 16 ч.