Некоторые новейшие «экспериментальные» функции модели Gemini 2.0 Flash от Google вызывают нешуточные опасения у многих пользователей. В частности, модель показала «очень качественные» результаты при удалении водяных знаков с изображений.

Источник изображений: Google

Gemini 2.0 Flash умеет не только генерировать изображения по текстовому запросу, но и редактировать их в соответствии с указаниями пользователя — примеры опубликованы на Reddit. На днях обнаружилось, что модель с высокой точностью может удалять водяные знаки. Это поведение радикально отличается от модели GPT-4o от OpenAI, которая запросы на удаление водяных знаков отклоняет.

Ранее уже существовали такие инструменты, как Watermark Remover.io, который умеет удалять водяные знаки со стоковых фотографий, а исследовательская группа Google создала в 2017 году подобный алгоритм, чтобы подчеркнуть необходимость более надёжной защиты авторских прав на изображения.

Gemini 2.0 Flash, похоже, лучше всех проявила себя при удалении сложных водяных знаков, такие как штампы Getty Images, и смогла качественно восстановить изображение. Конечно, после удаления водяного знака модель добавляет метку SynthID, фактически заменяя знак авторского права на «отредактировано с помощью ИИ». Но метки ИИ довольно легко удаляются при помощи другого ИИ, что ранее было продемонстрировано инструментом стирания объектов от Samsung.

По сообщениям пользователей, облегчённая Gemini 2.0 Flash также умеет добавлять узнаваемые изображения реальных людей на фотографии, чего не позволяет полная модель Gemini.

На данный момент описанные возможности доступны только разработчикам через AI Studio — общедоступный бот Gemini отказывается убирать защитные знаки, как показано на скриншоте выше. Google не ответила на запросы о наличии защиты от возможных злоупотреблений после выхода модели в открытый доступ.

Приложение «Google Фото» начнёт использовать цифровые водяные знаки SynthID для фотографий, отредактированных с помощью генеративного искусственного интеллекта (ИИ). По заявлению Google, новая функция предназначена для облегчения идентификации изображений, которые были изменены с помощью инструмента Reimagine в Magic Editor.

Источник изображений: Google

Magic Editor позволяет легко редактировать фотографии через текстовые запросы, добавляя или удаляя различные детали. Хотя сами по себе ИИ-инструменты не представляют угрозы, Magic Editor может создавать неправомерные компиляции, например разбившиеся вертолёты, сцены аварий, причём без явных меток, указывающих на то, что изображение было изменено.

Водяные знаки призваны решить эту проблему. Однако SynthID визуально не изменяет изображение и чтобы понять, что оно было отредактировано ИИ, придётся дополнительно использовать функцию проверки «Об изображении». Более того, Google признаёт, что некоторые небольшие изменения, выполненные через Magic Editor, могут быть настолько незначительными, что SynthID не сможет идентифицировать эти изменения и применить маркировку.

Эксперты отмечают, что хотя водяные знаки могут помочь в идентификации компиляций, этой технологии недостаточно для масштабной проверки контента, созданного нейросетями. Для надёжности потребуется использовать целый комплекс подходов и программных средств.

Отметим, что система водяных знаков используется в нейросети Google Imagen AI, которая генерирует изображения на основе текста. Аналогичные инструменты были разработаны и другими компаниями, например, функция Content Credentials компании Adobe защищает от несанкционированного доступа к метаданным и позволяет авторам добавлять информацию о себе.

Технология SynthID была разработана командой DeepMind и представляет собой цифровой метатег, встроенный в изображения, видео, аудио или текст. Этот тег позволяет идентифицировать, были ли файлы созданы или изменены с помощью ИИ.

OpenAI объявила о начале разработки новых методов определения контента, созданного искусственным интеллектом (ИИ). Среди них — новый классификатор изображений, который определяет, было ли изображение сгенерировано ИИ, а также устойчивый к взлому водяной знак, способный маркировать аудиоконтент незаметными сигналами.

Источник изображения: Placidplace / Pixabay

Новый классификатор изображений способен с точностью до 98 % определять, было ли изображение создано ИИ-генератором изображений DALL-E 3. Компания утверждает, что их классификатор работает, даже если изображение было обрезано, сжато или была изменена его насыщенность. В то же время эффективность этой разработки OpenAI в распознавании контента, созданного другими ИИ-моделями, такими как Midjourney, значительно ниже — от 5 до 10 %.

Также OpenAI ввела водяные знаки для аудиоконтента, созданного с помощью своей платформы преобразования текста в речь Voice Engine, находящейся на стадии предварительного тестирования. Эти водяные знаки содержат информацию о создателе и методах создания контента, что значительно упрощает процесс проверки их подлинности.

OpenAI активно участвует в работе Коалиции по происхождению и аутентичности контента (C2PA), в состав которой также входят такие компании, как Microsoft и Adobe. В этом месяце компания присоединилась к руководящему комитету C2PA, подчеркивая свою роль в разработке стандартов прозрачности и подлинности цифрового контента.

Для этих целей OpenAI интегрировала в метаданные изображений так называемые учётные данные контента от C2PA. Эти учётные данные, фактически являясь водяными знаками, включают информацию о владельце изображения и способах его создания. OpenAI уже много лет работает над обнаружением ИИ-контента, однако в 2023 году компании пришлось прекратить работу программы, определяющей текст, сгенерированный ИИ, из-за её низкой точности.

Разработка классификатора изображений и водяного знака для аудиоконтента продолжается. В OpenAI подчёркивают, что для оценки эффективности этих инструментов крайне важно получить отзывы пользователей. Исследователи и представители некоммерческих журналистских организаций имеют возможность протестировать классификатор изображений на платформе доступа к исследованиям OpenAI.

На Марсе обнаружено достаточно воды, чтобы покрыть всю поверхность планеты океаном глубиной от 1,5 до 2,7 метра. Такое заключение представила научная миссия Европейского космического агентства (ЕКА) Mars Express, которая уже 20 лет занимается исследованием Красной планеты. Авторы открытия заявляют о самом большом количестве водяного льда, обнаруженном на Марсе, что, похоже, соответствует выводам предыдущих исследователей.

Предполагаемые залежи водяного льда под экватором Марса. Источник изображения: Planetary Science Institute

«Удивительно, что радиолокационные сигналы соответствуют тому, что мы ожидаем увидеть от слоистого льда, и похожи на сигналы, которые мы видим от полярных шапок Марса, которые, как мы знаем, очень богаты льдом», — сообщил в официальном заявлении EKA ведущий исследователь Томас Уоттерс (Thomas Watters) из Смитсоновского института в США.

По сообщению учёных, толщина ледяного пояса, покрытого «коркой» затвердевшего вулканического пепла и сухой пыли, достигает 3,7 км. Лёд не является кристально чистым, он сильно загрязнён пылью. Хотя присутствие льда вблизи экватора делает его более доступным для будущих экспедиций с людьми, покрывающая лёд «корка» толщиной в несколько сотен метров существенно затруднит доступ к нему.

Около 15 лет назад зонд Mars Express обнаружил необычное отложение мягкой породы протяжённостью почти 5000 км у экватора Марса. Формация получила название Medusae Fossae Formation (MFF). По мнению учёных, формирование MFF было поворотным моментом в истории Марса. Предполагается, что создавшие его извержения выбросили в атмосферу огромное количество газов и водяных паров, кардинально изменивших климат планеты.

Формация Medusae Fossae / Источник изображения: Smithsonian Institution

Считается, что MFF сформировалась в течение последних 3 миллиардов лет из потоков лавы, а затем была покрыта толстым слоем вулканического пепла. Сегодня MFF является самым обильным источником пыли для гигантских сезонных пылевых бурь. Новые наблюдения радара MARSIS миссии Mars Express говорят о том, что формация Medusae Fossae содержит не только пыль.

«Учитывая толщину слоя, если бы MFF представляла собой просто гигантскую кучу пыли, она должна была уплотнится под собственным весом, — считает Андреа Чикетти (Andrea Cicchetti) из Национального института астрофизики Италии. — Это создало бы что-то гораздо более плотное, чем то, что мы на самом деле видим при помощи MARSIS». Отложения имеют низкую плотность и довольно прозрачны для радара MARSIS, что больше всего похоже именно на сигнатуру водяного льда.

Участок Марса, просканированный радаром MARSIS / Источник изображения: Smithsonian Institution

Водяной лёд на Марсе неоднократно обнаруживался и раньше. В 2008 году миссия NASA Phoenix обнаружила лёд прямо под слоем пыли на месте посадки спускаемого аппарата, а остатки реликтовых ледников были обнаружены в Восточном Лабиринте Ноктиса, который находится всего в 7,3 градусах к югу от экватора. Присутствие подземного водяного льда в низких и экваториальных широтах намекает на то, насколько сильно отличался климат Марса в далёком прошлом.

Образование огромных залежей водяного льда в экваториальном районе Марса может являться результатом изменения наклона оси Красной планеты, который менялся довольно хаотично. В настоящее время полюса Марса наклонены к эклиптике на 25 градусов (наклон Земли составляет 23 градуса), но в прошлом этот угол мог меняться от 10 до экстремальных 60 градусов. В периоды сильного наклона, когда полюса планеты попеременно оказывались значительно ближе к Солнцу, чем экваториальная часть планеты, в районе экватора в больших количествах образовывался водяной лёд, который затем оказался погребён под слоем пепла и пыли.

Новое открытие описано в статье, опубликованной в журнале Geophysical Research Letters.