В Google изобрели надёжный способ помечать сгенерированные ИИ изображения

Подразделение Google DeepMind предложило решение, которое позволяет наносить невидимую для человеческого глаза маркировку на изображения, созданные искусственным интеллектом.

Источник изображения: deepmind.com

Человеку становится всё труднее отличать сгенерированные ИИ изображения от картинок, созданных людьми, поэтому инженеры Google и других технологических гигантов всерьёз задумались о разработке технических средств для этого. Одним из решений может стать разработанная компанией технология SynthID, позволяющая помечать изображения ИИ-генераторов, не ухудшая их качества. Она работает путем внедрения тонких изменений в отдельные пиксели изображений, создавая водяной знак, невидимый для человеческого глаза, но распознаваемый компьютерами. Такая пометка обнаруживается даже после добавления различных фильтров, внесения цветокоррекции или регулировки яркости, утверждают в Google. Более того, SynthID нельзя удалить, даже если обрезать изображение.

Google была одной из технологических компаний, пообещавших администрации президента США внедрить некое подобие «водяных знаков» для ИИ-контента. Параллельно аналогичной работой занимается Adobe – компания создаёт методы кодирования данных, позволяющие отслеживать способы создания изображения и документировать последующие изменения. Не исключено, что располагающие мощными ИИ-платформами злоумышленники преднамеренно откажутся от маркировки ИИ-изображений, но если крупные игроки будут помечать их в обязательном порядке, люди станут относиться к изображениям без «водяных знаков» настороженно.