Sony и Associated Press (AP) завершили совместное тестирование передовой технологии внутрикамерной аутентификации, которая должна остановить волну фейковых изображений и предоставить фотографам и пользователям инструменты, необходимые для проверки подлинности фотографий. Эта технология становится особенно актуальной в условиях продолжающегося распространения и быстрого совершенствования технологий генеративного ИИ.

Источник изображения: Sony

Проблема аутентичности цифровых изображений на протяжении нескольких последних лет становится всё более острой. Ранее, в 2019 году компания Adobe представила технологию Content Authenticity Initiative (CAI), направленную на контроль «легитимности» цифровых изображений, а в 2020 году добавила в Photoshop инструмент для регистрации в метаданных изображения каждого внесённого изменения и его автора. На сегодняшний день Adobe CAI поддерживается рядом компаний, включая NVIDIA, Microsoft, X, AP, New York Times, Getty Images, Nikon и Leica.

В 2021 году Adobe, Arm, Intel и Microsoft основали «Коалицию по происхождению и аутентичности контента» — C2PA для обеспечения соответствующих технических стандартов и документации, Sony присоединилась к группе в марте 2022 года. Благодаря участию Sony в руководящем комитете C2PA был выработан текущий отраслевой стандарт по отслеживанию редактирования и манипулирования изображениями, и теперь компания намерена его продвигать и поддерживать.

AP, начиная с 2020 года, обеспечивает своих фотографов исключительно оборудованием Sony. Неудивительно, что компаниям в процессе совместного тестирования удалось добиться «значительного прогресса в решении проблемы аутентичности контента», по утверждению Sony. Второй этап полевых испытаний, включавший месяц тестирования цифровой подписи и технологии C2PA в реальном рабочем процессе фотожурналистики, был завершён в октябре.

Предлагаемая Sony технология создаёт цифровую подпись во время съёмки и при этом не требует наличия специального оборудования или изменений в аппаратной части камеры. Для применения новой технологии достаточно будет обновить прошивку. Уже выпущенные фотоаппараты, такие как Sony a1 и a7S III, будут поддерживать встроенную подпись и аутентификацию C2PA наряду с будущей Sony a9 III. При съёмке фотографии создаётся неразрывная цифровая цепочка, гарантирующая, что изображение является подлинным и не подвергалось редактированию или другим манипуляциям.

«Хотя быстрая эволюция генеративного искусственного интеллекта открыла новые возможности для творческого самовыражения, она также привела к растущей обеспокоенности по поводу влияния изменённых или манипулируемых изображений в журналистике, — уверен Нил Мановиц (Neal Manowitz), президент и главный операционный директор Sony Electronics. — Распространение ложной информации и изображений имеет реальные социальные последствия, которые наносят вред не только нашим фотожурналистам и партнёрам информационных агентств, но и обществу в целом».

«Фальшивые и манипулируемые изображения являются серьёзной проблемой для новостных организаций. Они не только способствуют распространению фейков и дезинформации, но в конечном итоге подрывают доверие общественности к реальным и точным изображениям. Мы гордимся тем, что работаем вместе с Sony Electronics над созданием решения для аутентификации, которое поможет решить эту проблему». — заявил представитель AP Дэвид Эйк (David Ake).

Чтобы гарантировать подлинность цифровой подписи и не нарушать рабочий процесс фотографа, Sony и AP заключили партнёрское соглашение с Camera Bits, разработчиком программного обеспечения Photo Mechanic, которое обеспечивает целостность и сохранность цифровой подписи при редактировании метаданных.

«Мы осознаем серьёзную проблему, которую манипулирование изображениями создаёт для наших партнёров, и принимаем участие в её решении, — сообщил Деннис Уокер (Dennis Walker), президент и основатель Camera Bits. — Photo Mechanic используется в фотожурналистике уже 25 лет и продолжает развиваться по мере внедрения новых технологий. Мы стремимся к тому, чтобы Photo Mechanic оставался надёжным и аутентичным решением для рабочих процессов».

Теперь, когда технология аутентификации в камере Sony доказала свою эффективность в реальных испытаниях AP, Sony готова внедрить цифровую подпись и технологию C2PA в большинстве своих устройств. Флагманские камеры серии Alpha должны получить обновление прошивки с новой технологией следующей весной.

В китайской провинции Ганьсу правоохранители задержали мужчину, который использовал ИИ-бота ChatGPT для написания фейковых новостных статей. Арест гражданина Китая произведён в соответствии с действующим в стране законодательством, которое, помимо прочего, запрещает неправомерное использование нейросетей для распространения ложной информации.

Источник изображения: Sanket Mishra / unsplash.com

Подозреваемый по фамилии Хун обвиняется в использовании ИИ-бота ChatGPT для создания нескольких новостных статей, рассказывающих о крушении поезда. По словам официальных лиц, описанные в этих материалах события не имеют отношения к действительности. В общей сложности было обнаружено около 20 статей, в которых рассказывались разные версии одной и той же истории, но менялись места происшествия. Все статьи были опубликованы на платформе для блогов Baijiahao, которая принадлежит компании Baidu.

В заявлении местной полиции сказано, что Хун признался в использовании ChatGPT для переписывания существующих вирусных новостных статей с целью обхода фильтров дублирующего контента. После написания фейковых статей он размещал их в интернете и зарабатывал на этом деньги. Согласно имеющимся данным, в общей сложности фейковые статьи Хуна были просмотрены более 15 тыс. раз.

Напомним, в Китае запрещено использование ChatGPT. Для взаимодействия с нейросетью жителям страны приходится задействовать VPN-сервисы. Что касается Хуна, то ему уже предъявлено обвинение в провоцировании конфликтов. Не исключено, что позднее он также может быть обвинён в нарушении общественного порядка и организации беспорядков в общественных местах. В этом случае Хуну может грозить наказание в виде лишения свободы сроком от 5 до 10 лет.

Американские технологические компании обяжут бороться с распространением фейков и дезинформации на территории Евросоюза. Об этом пишет Reuters со ссылкой на новый регулирующий документ, который планируется принять. В случае невыполнения требований, IT-компаниям будут грозить огромные штрафы.

Источник: Pixabay

Все обязанности будут прописаны в новом своде правил по борьбе с недостоверной информацией. Предполагается, что компаниями придётся бороться с дипфейками и распространением поддельных учётных записей. Изменения затронут Google, Twitter, Facebook✴ и другие сервисы. Кроме этого, разработчикам придётся удалять рекламу, содержащую дезинформацию.

Новый документ будет связан с Законом о цифровых услугах на территории ЕС (DSA), который ранее подписали власти 27 стран. За нарушение правил компаниям грозит штраф размером до 6 % от годового оборота. Сроки принятия новых правил пока не уточняются.

Вице-президент Еврокомиссии Вера Юрова (Vera Jourova) пояснила, что одним из поводов для перемен стали события в Украине. «После того, как правила заработают, мы будем лучше готовы к борьбе с дезинформацией. В том числе из России», — заявила Юрова.