Сегодня 05 января 2025
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

Нейросеть для создания картинок Midjourney перестала быть бесплатной — из-за злоупотреблений с дипфейками

Компания Midjourney закрыла бесплатный доступ к своей одноимённой нейросети, которая позволяет генерировать изображения по текстовому описанию. Произошло это после того, как пользователи стали активно использовать нейросеть для создания дипфейков с участием знаменитых личностей.

 Источник изображения: Midjourney

Источник изображения: Midjourney

Основатель и исполнительный директор Midjourney Дэвид Хольц (David Holz) в официальном канале Discord сообщил, что компания закрывает программу бесплатного пробного периода «из-за чрезвычайного спроса, а также из-за злоупотреблений в его использовании со стороны пользователей». По словам Хольца, новые правила безопасности использования нейросети Midjourney оказались «недостаточными» для предотвращения случаев неправильного использования ИИ-генератора изображений во время пробного периода. Отныне пользователи Midjourney должны будут платить по $10 в месяц за возможность пользоваться технологией.

Как пишет издание The Washington Post, Midjourney в последнее время оказалась в центре нежелательного внимания. Пользователи, используя указанную нейросеть, начали создавать фейковые изображения с арестом бывшего президента США Дональда Трампа, а также изображения Папы римского Франциска, разгуливающего в модном пуховике. Хотя указанные изображения быстро разоблачили как фейки, злоумышленники могут использовать генеративные нейросети вроде Midjourney, DALL-E от OpenAI и аналогичные для распространения дезинформации в Сети.

Midjourney признала, что правила использования ИИ-алгоритмов для создания изображений требуют доработок. В 2022 году Хольц запретил использовать Midjourney для создания дипфейков с китайским лидером Си Цзиньпинем. Он объяснил это тем, что доступ на китайский рынок для компании важнее возможности для пользователей создавать сатирический контент. В этот четверг Хольц в разговоре с пользователями в Discord посетовал, что формирование политики в отношении создания ИИ-контента с помощью Midjourney ещё сильнее усложнилось тем фактом, что ИИ теперь способен создавать ещё более реалистичные изображения. Несмотря на это, компания продолжит совершенствовать модерацию ИИ-контента и выявлять случаи злоупотребления в его создании, добавил он.

Некоторые разработчики нейросетей для генерации изображений уже ввели более строгие правила, связанные с их использованием. Например, OpenAI запретила создавать любые изображения, которые каким-либо образом были бы связаны с текущими политическими событиями, политиками и теориями заговоров. Она также запретила контент, связанный с ненавистью, насилием и сексом. Впрочем, другие пока придерживаются более свободных правил. Stability AI не позволяет нейросети Stable Diffusion копировать стили или создавать так называемые «не безопасные для работы» изображения. Однако в целом компания не диктует пользователям, какие изображения можно или нельзя создавать.

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Вечерний 3DNews
Каждый будний вечер мы рассылаем сводку новостей без белиберды и рекламы. Две минуты на чтение — и вы в курсе главных событий.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
Два крупнейших фотостока в мире задумали слияние, но антимонопольщики могут помешать 19 ч.
Новая статья: Самые ожидаемые игры 2025 года 20 ч.
Гендиректор YouTube сделал ставку на ИИ и блогеров 04-01 13:28
Mozilla запустила расширение Orbit для Firefox для обобщения контента с помощью ИИ 04-01 09:03
Министерство юстиции США не считает нужным давать TikTok ещё один шанс сохранить американский бизнес 04-01 08:06
Власти США запретили продавать личные данные американцев в Россию и другие недружественные страны 04-01 07:06
Новая статья: Лучшие игры 2024 года: выбор читателей и редакции 04-01 00:03
Anthropic договорилась с музыкальными издателями по иску о незаконном пересказывании песен ИИ 03-01 17:10
Apple начала самовольно сканировать пользовательские фото на предмет достопримечательностей, но от этого можно отказаться 03-01 17:01
«Не лучшее начало 2025 года»: Sony включила в январскую подборку PS Plus провальную Suicide Squad: Kill the Justice League 03-01 12:23
Huawei представила Enjoy 70X — смартфон среднего уровня с поддержкой спутниковой связи за $245 7 ч.
Китай освоил передачу спутниковой информации на Землю на скорости 100 Гбит/с с помощью лазера 10 ч.
Очки дополненной реальности RayNeo будут использовать ИИ-модели Alibaba 13 ч.
Imagination лишится гендира после скандала с передачей технологий в Китай 20 ч.
Microsoft инвестирует в 2025 финансовом году $80 млрд в создание ИИ ЦОД, больше половины — в объекты в США 21 ч.
Южнокорейские производители аккумуляторов начали затягивать пояса, чтобы пережить тяжёлый год 24 ч.
Acer скоро представит портативные приставки Nitro Blaze 11 и Blaze 8 с большими экранами 04-01 18:45
PowerColor показала облик грядущей видеокарты Radeon RX 9070 XT Red Devil 04-01 16:58
BenQ показала самый быстрый монитор в мире — 600-герцевый Zowie XL2586X+ для киберспортсменов 04-01 16:24
Microsoft совместно с учёными США разработала экологичные облачные серверы GreenSKU, которые используют RAM и SSD из старых систем 04-01 15:21
Включить темный режим