Сегодня 13 ноября 2024
18+
MWC 2018 2018 Computex IFA 2018
реклама
Теги → водяной знак

OpenAI научилась распознавать сгенерированные своим ИИ изображения, но не без ошибок

OpenAI объявила о начале разработки новых методов определения контента, созданного искусственным интеллектом (ИИ). Среди них — новый классификатор изображений, который определяет, было ли изображение сгенерировано ИИ, а также устойчивый к взлому водяной знак, способный маркировать аудиоконтент незаметными сигналами.

 Источник изображения: Placidplace / Pixabay

Источник изображения: Placidplace / Pixabay

Новый классификатор изображений способен с точностью до 98 % определять, было ли изображение создано ИИ-генератором изображений DALL-E 3. Компания утверждает, что их классификатор работает, даже если изображение было обрезано, сжато или была изменена его насыщенность. В то же время эффективность этой разработки OpenAI в распознавании контента, созданного другими ИИ-моделями, такими как Midjourney, значительно ниже — от 5 до 10 %.

Также OpenAI ввела водяные знаки для аудиоконтента, созданного с помощью своей платформы преобразования текста в речь Voice Engine, находящейся на стадии предварительного тестирования. Эти водяные знаки содержат информацию о создателе и методах создания контента, что значительно упрощает процесс проверки их подлинности.

OpenAI активно участвует в работе Коалиции по происхождению и аутентичности контента (C2PA), в состав которой также входят такие компании, как Microsoft и Adobe. В этом месяце компания присоединилась к руководящему комитету C2PA, подчеркивая свою роль в разработке стандартов прозрачности и подлинности цифрового контента.

Для этих целей OpenAI интегрировала в метаданные изображений так называемые учётные данные контента от C2PA. Эти учётные данные, фактически являясь водяными знаками, включают информацию о владельце изображения и способах его создания. OpenAI уже много лет работает над обнаружением ИИ-контента, однако в 2023 году компании пришлось прекратить работу программы, определяющей текст, сгенерированный ИИ, из-за её низкой точности.

Разработка классификатора изображений и водяного знака для аудиоконтента продолжается. В OpenAI подчёркивают, что для оценки эффективности этих инструментов крайне важно получить отзывы пользователей. Исследователи и представители некоммерческих журналистских организаций имеют возможность протестировать классификатор изображений на платформе доступа к исследованиям OpenAI.


window-new
Soft
Hard
Тренды 🔥
Meta вынуждена поменять для ЕС методы показа рекламы в Instagram и Facebook 2 ч.
Google обновила Chrome для iOS: теперь доступен одновременный поиск по фото и тексту 4 ч.
Панель задач Windows 11 скоро начнёт давать советы и рекомендации 4 ч.
К концу года Microsoft прекратит поддержку приложений «Почта Windows», «Календарь», «Люди» и классического Outlook 10 ч.
Критики оценили «умный» детектив The Rise of the Golden Idol — игра уже вышла и доступна в российском Steam 10 ч.
Заждались: Farming Simulator 25 вышла в Steam и сразу же установила новый рекорд для серии 13 ч.
Создатели Stellar Blade подтвердили планы на ПК-версию — объявлена дата выхода фоторежима и дополнения по Nier: Automata 14 ч.
Северокорейские хакеры научились обходить защиту macOS и захватывать удалённый доступ к Mac 14 ч.
Apple Intelligence стал источником абсурдных, смешных и пугающих обобщений уведомлений 15 ч.
Третье дополнение к Atomic Heart выйдет «совсем скоро» — новые скриншоты и подробности 15 ч.