Meta✴ стала ошибочно маркировать настоящие фотографии как творения ИИ

Несколько фотографов сообщили, что соцсети Meta✴ в последние месяцы стали незаслуженно добавлять к их снимкам пометку «Создано ИИ» (Made by AI). В одном из случаев это были фотографии, сделанные на баскетбольном матче, в другом — на турнире по крикету в индийской премьер-лиге. Интересно, что эти метки показываются при просмотре снимков в мобильных приложениях, а не в веб-версии.

Источник изображения: Alexandra_Koch / pixabay.com

Сделавший снимок на баскетбольном матче бывший фотограф Белого дома Пит Соуза (Pete Souza) рассказал, что пытался удалить эту метку, но не смог. По его мнению, алгоритм Meta✴ сработал из-за того, что он предварительно обрезал фото в ПО Adobe и сохранил его в формате JPEG. «Ложноположительные» срабатывания отмечаются, когда фотографы пользуются при обработке инструментами на основе генеративного ИИ, например, Adobe Generative Fill, — даже для удаления мелких объектов.

Эту гипотезу подтвердили журналисты PetaPixel, которые удалили при помощи Generative Fill мелкое пятнышко со снимка — в Instagram✴ действительно появилась пометка «Создано ИИ». Эксперимент решили продолжить: открыли этот снимок в Photoshop, скопировали и вставили его в документ с чёрным фоном, после чего сохранили и снова опубликовали в соцсети — метка не появилась.

В Meta✴ «примут во внимание недавние отзывы» и переоценят свой подход, чтобы «отметки отражали объём [работы] ИИ при создании изображения», заявила The Verge представитель компании Кейт Маклафлин (Kate McLaughlin). «Мы полагаемся на индикаторы отраслевых стандартов, которые другие компании добавляют в контент своими инструментами, поэтому мы активно работаем с компаниями, чтобы улучшить наш процесс, и чтобы наш подход к маркировке соответствовал нашим намерениям», — добавила госпожа Маклафлин. О планах добавлять такие пометки Meta✴ сообщила в апреле. Adobe использует собственный способ маркировки ИИ-материалов Content Credentials.