Сегодня 04 июля 2025
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

Google начнёт помечать фотографии пользователей, в которые «вмешался» ИИ

Приложение «Google Фото» начнёт использовать цифровые водяные знаки SynthID для фотографий, отредактированных с помощью генеративного искусственного интеллекта (ИИ). По заявлению Google, новая функция предназначена для облегчения идентификации изображений, которые были изменены с помощью инструмента Reimagine в Magic Editor.

 Источник изображений: Google

Источник изображений: Google

Magic Editor позволяет легко редактировать фотографии через текстовые запросы, добавляя или удаляя различные детали. Хотя сами по себе ИИ-инструменты не представляют угрозы, Magic Editor может создавать неправомерные компиляции, например разбившиеся вертолёты, сцены аварий, причём без явных меток, указывающих на то, что изображение было изменено.

Водяные знаки призваны решить эту проблему. Однако SynthID визуально не изменяет изображение и чтобы понять, что оно было отредактировано ИИ, придётся дополнительно использовать функцию проверки «Об изображении». Более того, Google признаёт, что некоторые небольшие изменения, выполненные через Magic Editor, могут быть настолько незначительными, что SynthID не сможет идентифицировать эти изменения и применить маркировку.

Эксперты отмечают, что хотя водяные знаки могут помочь в идентификации компиляций, этой технологии недостаточно для масштабной проверки контента, созданного нейросетями. Для надёжности потребуется использовать целый комплекс подходов и программных средств.

Отметим, что система водяных знаков используется в нейросети Google Imagen AI, которая генерирует изображения на основе текста. Аналогичные инструменты были разработаны и другими компаниями, например, функция Content Credentials компании Adobe защищает от несанкционированного доступа к метаданным и позволяет авторам добавлять информацию о себе.

Технология SynthID была разработана командой DeepMind и представляет собой цифровой метатег, встроенный в изображения, видео, аудио или текст. Этот тег позволяет идентифицировать, были ли файлы созданы или изменены с помощью ИИ.

Источники:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
«Блокнот» спустя 43 года освоил жирный шрифт и курсив 12 мин.
Создатели The Elder Scrolls Online готовили смесь Destiny и «Бегущего по лезвию» — Фил Спенсер не мог оторваться от игры, но её всё равно отменили 36 мин.
Представлен российский сервер Java-приложений WildBoss Pro, способный заменить IBM WebSphere Application Server и Oracle GlassFish Server 2 ч.
Надёжный инсайдер: Techland отменила амбициозную фэнтезийную RPG, но занялась новой Call of Juarez 3 ч.
После ухода генерального директора Илья Суцкевер был вынужден возглавить основанный им стартап Safe Superintelligence 3 ч.
Конец эпохи: Intel закрыла приложение Unison для синхронизации ПК и смартфонов 8 ч.
Минюст США убедил Google и Apple не блокировать TikTok, пообещав их не штрафовать 8 ч.
Destiny: Rising не заставит себя долго ждать — дата выхода и новый геймплейный трейлер 12 ч.
Anthem уйдёт в вечный офлайн — Electronic Arts скоро отключит серверы провального шутера 13 ч.
«Базальт СПО» представила в Китае российский ПАК с китайскими чипами Loongson 14 ч.
Беспроводной телевизор LG OLED evo M5 поступил в продажу — $38 220 за  97-дюймовую версию 27 мин.
Мировые поставки умных часов падают уже пять кварталов к ряду — сильнее всего у Apple и Samsung 39 мин.
У Tesla Optimus проблемы с «мускулами» и «разумом» — это отложит старт массового производства 2 ч.
Грузовик «Прогресс МС-31» отправился к МКС с припасами и наборами для опытов 2 ч.
Облако с ИИ: Alibaba расширяет ЦОД в Малайзии и на Филиппинах 3 ч.
Китайские регуляторы надеются одобрить первый автомобиль с автопилотом третьего уровня в следующем году 4 ч.
МТС запустит на транспортной сети сервисные маршрутизаторы BRAS/BNG собственной разработки 4 ч.
CoreWeave стала первым облачным клиентом Nvidia, запустившим эксплуатацию ускорителей Blackwell Ultra 7 ч.
E Ink придумала встроить в тачпад ноутбука экран на электронных чернилах — для общения с ИИ и не только 11 ч.
Новая статья: ИИтоги июня 2025 г.: ой, да было бы что заменять! 12 ч.