Сегодня 10 июля 2025
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

Инженеры MIT придумали два способа защиты изображений от создания дипфейков и ИИ-редактирования

Инженеры Лаборатории компьютерных наук и искусственного интеллекта (CSAIL) при Массачусетском технологическом институте (MIT) предложили технологию PhotoGuard, которая усложняет изменение изображений при помощи алгоритмов искусственного интеллекта.

 Слева направо: исходное изображение, отредактированное изображение без защиты, отредактированное изображение с защитой «кодировщик», отредактированное изображения с «диффузионной» защитой. Источник изображения: MIT

Слева направо: исходное изображение, отредактированное изображение без защиты, отредактированное изображение с защитой «кодировщик», отредактированное изображения с «диффузионной» защитой. Источник изображения: MIT

Основанные на ИИ генераторы изображений Dall-E и Stable Diffusion — это лишь начало новой эпохи обработки графики. ИИ может не только генерировать новые картинки, но и с высоким качеством редактировать существующие, открывая простор для потенциальных злоупотреблений в виде дипфейков. Инженеры MIT CSAIL предложили технологию PhotoGuard, способную помочь защититься от подобных инцидентов.

Технология включает два метода атак на алгоритмы ИИ: «кодировщик» (encoder) и «диффузия» (diffusion). Первый метод добавляет скрытое представление защищаемого изображения — технология особым образом изменяет отдельные пиксели на картинке и не позволяет ИИ распознать содержимое картинки, а значит, блокирует для него возможность её отредактировать.

Второй, более продвинутый и ресурсоёмкий метод «диффузионной» атаки маскирует в «глазах» ИИ одно изображение под другое. В результате ИИ пытается изменить лишь ту картинку, которую он «видит», но не трогает исходную, в результате чего генерируемое им изображение выглядит нереалистично.

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
Snoop Dogg выпустил трек про Telegram — миллион его NFT-подарков разлетелся за считанные минуты 26 мин.
Microsoft похвасталась, что сэкономила $500 млн с помощью ИИ в прошлом году, — а в этом уволила 15 000 сотрудников 45 мин.
Дополнение к «Смуте» превратилось в отдельную игру — дата выхода и скриншоты приключенческого боевика «Земский собор» 58 мин.
Безинтернетный мессенджер Bitchat от основателя Twitter провалил первую проверку безопасности 2 ч.
Биткоин рекордно подорожал до $112 000 — в том числе благодаря Nvidia 2 ч.
Bethesda приступила к улучшению производительности The Elder Scrolls IV: Oblivion Remastered — в Steam вышла бета-версия патча 1.2 2 ч.
Meta купила главу разработки ИИ Apple за $200 млн — даже Тим Кук получает меньше 2 ч.
Перенос ценой $250 миллионов: Subnautica 2 не выйдет в 2025 году, зато получила первый геймплейный трейлер 4 ч.
Суд: почта Великобритании и Fujitsu «должны были знать» о дефектах IT-системы Horizon, сломавших сотни жизней 4 ч.
Релиз российской системы виртуализации «Иридиум» 2.0: поддержка VDI, резервное копирование ВМ, HA-кластеризация и многое другое 5 ч.
Выше всех ожиданий: квартальная выручка TSMC взлетела на 38,6 % благодаря ИИ 22 мин.
Российская Caviar выпустила смартфоны Galaxy Z fold7 и Galaxy Z Flip7 с золотыми Labubu по цене от $8910 23 мин.
Samsung столкнулась с утечкой мозгов — инженеры бегут из компании из-за бюрократии и проблем с руководством 31 мин.
В большинстве AMD Ryzen и EPYC обнаружена уязвимость TSA, позволяющая красть пароли и другие секретные данные 33 мин.
Украина первой в Европе подключит смартфоны к спутникам Starlink — уже в следующем году 39 мин.
Непредсказуемый космический бильярд — NASA просчиталось с ударным отклонением опасных астероидов 50 мин.
Углеродные выбросы Google выросли на 1515 % за 14 лет, но компания уверяет, что экоактивисты перевирают факты 3 ч.
Новые тесты подтвердили высокую эффективность электрических грузовиков Tesla Semi 3 ч.
Nvidia выпустит новый ИИ-ускоритель для Китая не раньше сентября 3 ч.
Tesla через пару месяцев намерена запустить свои роботакси в Сан-Франциско 5 ч.