Сегодня 12 августа 2025
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

OpenAI научилась распознавать сгенерированные своим ИИ изображения, но не без ошибок

OpenAI объявила о начале разработки новых методов определения контента, созданного искусственным интеллектом (ИИ). Среди них — новый классификатор изображений, который определяет, было ли изображение сгенерировано ИИ, а также устойчивый к взлому водяной знак, способный маркировать аудиоконтент незаметными сигналами.

 Источник изображения: Placidplace / Pixabay

Источник изображения: Placidplace / Pixabay

Новый классификатор изображений способен с точностью до 98 % определять, было ли изображение создано ИИ-генератором изображений DALL-E 3. Компания утверждает, что их классификатор работает, даже если изображение было обрезано, сжато или была изменена его насыщенность. В то же время эффективность этой разработки OpenAI в распознавании контента, созданного другими ИИ-моделями, такими как Midjourney, значительно ниже — от 5 до 10 %.

Также OpenAI ввела водяные знаки для аудиоконтента, созданного с помощью своей платформы преобразования текста в речь Voice Engine, находящейся на стадии предварительного тестирования. Эти водяные знаки содержат информацию о создателе и методах создания контента, что значительно упрощает процесс проверки их подлинности.

OpenAI активно участвует в работе Коалиции по происхождению и аутентичности контента (C2PA), в состав которой также входят такие компании, как Microsoft и Adobe. В этом месяце компания присоединилась к руководящему комитету C2PA, подчеркивая свою роль в разработке стандартов прозрачности и подлинности цифрового контента.

Для этих целей OpenAI интегрировала в метаданные изображений так называемые учётные данные контента от C2PA. Эти учётные данные, фактически являясь водяными знаками, включают информацию о владельце изображения и способах его создания. OpenAI уже много лет работает над обнаружением ИИ-контента, однако в 2023 году компании пришлось прекратить работу программы, определяющей текст, сгенерированный ИИ, из-за её низкой точности.

Разработка классификатора изображений и водяного знака для аудиоконтента продолжается. В OpenAI подчёркивают, что для оценки эффективности этих инструментов крайне важно получить отзывы пользователей. Исследователи и представители некоммерческих журналистских организаций имеют возможность протестировать классификатор изображений на платформе доступа к исследованиям OpenAI.

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
«Победа для разработчиков и потребителей»: Fortnite вернётся на iOS в Австралии 14 мин.
League of Legends вскоре получит WASD-управление — игра станет дружелюбнее к новичкам 48 мин.
Nvidia выпустила драйвер, добавляющий поддержку DLSS 4 в GTA V Enhanced и Senua’s Saga: Hellblade II Enhanced 2 ч.
Sk Capital вложит в Softline 5 млрд рублей — это одна из крупнейших сделок на рынке 3 ч.
Геймплейный трейлер раскрыл дату выхода Henry Halfhead — поучительного приключения про половину головы с умением вселяться в предметы 4 ч.
Senua’s Saga: Hellblade II вышла на PS5 сразу в расширенном издании, а на ПК получила поддержку Steam Deck и DLSS 4 4 ч.
Remedy признала провальный старт FBC: Firebreak и похвасталась продажами Control 5 ч.
Anthropic научила чат-бота Claude припоминать старые диалоги с пользователем 6 ч.
Анонсирована корейская Black Myth: Wukong — фэнтезийный AAA-экшен Woochi the Wayfarer по мотивам классического романа 6 ч.
Илон Маск пригрозил Apple «незамедлительным» иском за занижение рейтинга Grok в App Store 7 ч.
Мобильная графика Arm станет производительнее — в GPU встроят нейронные ускорители 3 мин.
Nvidia представила GeForce RTX 5090D V2: специальный флагман для Китая с урезанной памятью за те же деньги 55 мин.
Жаркая катка: видеокарта GeForce RTX 5090 вспыхнула во время игры в Battlefield 6 2 ч.
Supermicro представила 4U-сервер на базе NVIDIA HGX B200 с СЖО 2 ч.
Tesla запустила редкую рекламу своего автопилота, но пытается скрыть его несовершенство 2 ч.
Alibaba, ByteDance и другим китайским IT-гигантам придётся объясниться за закупки ИИ-ускорителей Nvidia H20 3 ч.
Китайские учёные отправили в Тибет робота-антилопу, который проследил за стадом настоящих 3 ч.
В России стартовали продажи Honor Choice Earbuds X7 Pro — наушников с ИИ-шумоподавлением и автономностью до 38 часов 3 ч.
В США разработали транзисторы для Венеры — они переживут нагрев даже до 800 °C 3 ч.
NVIDIA анонсировала компактные ускорители RTX PRO 4000 Blackwell SFF Edition и RTX PRO 2000 Blackwell 4 ч.