Meta✴ показала детектор её собственного ИИ-контента

Meta✴ ведёт разработку средства идентификации изображений и видео, созданных с помощью генератора картинок Muse Image. Компания продемонстрировала предварительную версию веб-приложения, проверяющего наличие невидимых водяных знаков, которые ставит новая модель.

Система водяных знаков Content Seal сохраняет присутствие «даже при обрезке, сжатии, изменении размера или создании скриншотов», — рассказали в Meta✴. Входящая в состав Muse Image версия водяных знаков является проприетарной, хотя раньше компания выпускала её варианты с открытым исходным кодом. Если прежде маркировка предполагала небольшой логотип в правом нижнем углу картинки, то сейчас никаких видимых следов нет. Детектор реагирует на изображения, которые создавались или редактировались с помощью Muse Image, а в перспективе водяными знаками Content Seal будут помечаться и видео, которые создавались и редактировались с помощью ИИ — компания готовит генератор Muse Video.

Журналисты ресурса Engadget подтвердили работоспособность детектора как на оригиналах созданных Muse Image картинок, так и на их скриншотах. Однако он не реагирует на изображения, которые были созданы или отредактированы более ранними версиями ИИ-сервисов Meta✴. Отмечается, что технология Content Seal несовместима с решениями SynthID или C2PA Content Credentials, которые стали стандартом маркировки ИИ-контента и уже используются многими компаниями. Наконец, ещё одним примечательным моментом стало «дневное ограничение на идентификации», установленное в приложении — бесконечно проверять контент не получится.