«Google Фото» начнёт помечать изображения, отредактированные с помощью ИИ

Google объявила, что со следующей недели сервис «Google Фото» начнёт уведомлять пользователей о том, было ли изображение изменено или объединено с другим изображением с помощью искусственного интеллекта. Целью этого шага является обеспечение максимальной прозрачности использования инструментов генеративного ИИ и достоверности данных.

Источник изображения: Google

По словам директора по разработке Google Photos Джона Фишера (John Fisher), «изображения, отредактированные с помощью таких инструментов, как Magic Editor, Magic Eraser и Zoom Enhance, уже содержат метаданные, основанные на технических стандартах Международного совета по телекоммуникациям прессы (IPTC), указывающие на использование генеративного ИИ». Однако теперь информация будет появляться и в «Google Фото» — рядом с именем файла, местоположением и статусом резервного копирования. Новая функция «AI info» будет доступна как в веб-версии, так и в мобильном приложении.

Система маркировки будет распространяться не только на генеративный ИИ, но и на случаи, когда в одном изображении комбинируются элементы из нескольких фотографий, например, при использовании функций Best Take и Add Me на смартфонах Pixel. При этом, как пишет The Verge, эти метаданные могут быть легко обойдены теми, кто намеренно хочет скрыть следы редактирования.

Фишер подчёркивает: «Работа в этом направлении не завершена, и мы продолжим собирать отзывы и оценивать дополнительные решения для повышения прозрачности редактирования с помощью ИИ». Ранее метаданные, связанные с инструментами ИИ Google, были практически невидимы для пользователей. Например, инструмент Magic Editor позволяет добавлять сгенерированные ИИ объекты на изображение, которых не было в реальной сцене, что может вводить в заблуждение других пользователей.

В то время как Google и Samsung предоставляют возможности ИИ-редактирования, Apple решила не использовать фотореалистичный контент в своих инструментах генерации изображений (они будут представлены в iOS 18.2). Крейг Федериги (Craig Federighi) из Apple выразил обеспокоенность тем, что ИИ может повлиять на достоверность фотографий. В целом, ретуширование фотографий — не новая практика, но современные инструменты генеративного ИИ делают создание убедительных фальсификаций слишком уж лёгким и доступным.