Adobe уличили в обучении этичного ИИ-генератора изображений Firefly на творчестве других ИИ-художников

Adobe уверяет, что основанный на искусственном интеллекте генератор изображений Firefly является более безопасным, чем его аналоги, потому что он обучался преимущественно на материалах Adobe Stock — собственном фотобанке компании с сотнями миллионов лицензионных изображений. Но в реальности для обучения Firefly использовались также изображения других ИИ-генераторов, выступающих прямыми конкурентами платформе Adobe, и компания особо этого не скрывает, обращает внимание Bloomberg.

Источник изображений: adobe.com

Для обучения моделей ИИ, лежащих в основе популярных генераторов контента, необходимы огромные объёмы данных, и занимающиеся этими технологиями компании часто подвергаются критике за использование материалов, защищённых авторским правом. С такими претензиями сталкивались компания Midjourney, разработавшая одноимённую платформу; OpenAI, ответственная за Dall-E; и Stability AI, выпустившая Stable Diffusion. Поэтому в Adobe решили отдалиться от других представителей отрасли и объявить свой генератор изображений более этичным и юридически защищённым — это важно для пользователей её платных продуктов, которые не хотят проблем с авторскими правами. Adobe заверила, что Firefly не будет создавать контент на основе интеллектуальной собственности частных лиц или брендов и не станет генерировать недопустимых изображений.

В компании признали, что в массив обучающих материалов первоначально всё-таки попал контент, созданный с помощью ИИ, поскольку его можно загружать в Adobe Stock, но оговорились, что его доля не превышает 5 %, и он безопасен, потому что все изображения в фотобанке проходят модерацию. Эта практика с самого начала вызвала недовольство некоторых сотрудников компании, утверждает анонимный источник Bloomberg — выдвигались предложения со временем «отучить» систему от созданных ИИ картинок, но планов реализовать это предложение в компании нет и сейчас. Adobe заявляет на своём сайте, что Firefly лучше, чем OpenAI Dall-E, поскольку она демонстрирует уважение к творческому сообществу, будучи обученной только на лицензированных или бесплатных данных.

Adobe никогда публично не отмечала, что Firefly был частично обучен на изображениях из ИИ-генераторов конкурентов, которые, по её собственным утверждениям, менее этичны. В марте 2023 года Adobe Firefly увидел свет в формате бета-версии, и тогда же отвечающий за связи с сообществом Adobe Stock сотрудник компании Рауль Серон (Raúl Cerón) заявил, что при обучении общедоступной версии генератора изображений материалы других ИИ-систем использоваться не будут.

Публичный выпуск платформы состоялся в сентябре, и компания выплатила авторам Adobe Stock особую «премию Firefly» за то, что их «контент использовался для обучения первой коммерческой модели Firefly». И среди них были те, кто загрузил изображения, созданные ИИ, подтвердил Мэт Хейворд (Mat Hayward) — другой сотрудник компании, ответственный за связи с сообществом Adobe Stock. Созданные генераторами конкурентов картинки «улучшают набор данных для обучения модели, и мы решили включить этот контент в коммерческую версию Firefly», — сообщил он.