Сегодня 23 сентября 2025
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

OpenAI научилась распознавать сгенерированные своим ИИ изображения, но не без ошибок

OpenAI объявила о начале разработки новых методов определения контента, созданного искусственным интеллектом (ИИ). Среди них — новый классификатор изображений, который определяет, было ли изображение сгенерировано ИИ, а также устойчивый к взлому водяной знак, способный маркировать аудиоконтент незаметными сигналами.

 Источник изображения: Placidplace / Pixabay

Источник изображения: Placidplace / Pixabay

Новый классификатор изображений способен с точностью до 98 % определять, было ли изображение создано ИИ-генератором изображений DALL-E 3. Компания утверждает, что их классификатор работает, даже если изображение было обрезано, сжато или была изменена его насыщенность. В то же время эффективность этой разработки OpenAI в распознавании контента, созданного другими ИИ-моделями, такими как Midjourney, значительно ниже — от 5 до 10 %.

Также OpenAI ввела водяные знаки для аудиоконтента, созданного с помощью своей платформы преобразования текста в речь Voice Engine, находящейся на стадии предварительного тестирования. Эти водяные знаки содержат информацию о создателе и методах создания контента, что значительно упрощает процесс проверки их подлинности.

OpenAI активно участвует в работе Коалиции по происхождению и аутентичности контента (C2PA), в состав которой также входят такие компании, как Microsoft и Adobe. В этом месяце компания присоединилась к руководящему комитету C2PA, подчеркивая свою роль в разработке стандартов прозрачности и подлинности цифрового контента.

Для этих целей OpenAI интегрировала в метаданные изображений так называемые учётные данные контента от C2PA. Эти учётные данные, фактически являясь водяными знаками, включают информацию о владельце изображения и способах его создания. OpenAI уже много лет работает над обнаружением ИИ-контента, однако в 2023 году компании пришлось прекратить работу программы, определяющей текст, сгенерированный ИИ, из-за её низкой точности.

Разработка классификатора изображений и водяного знака для аудиоконтента продолжается. В OpenAI подчёркивают, что для оценки эффективности этих инструментов крайне важно получить отзывы пользователей. Исследователи и представители некоммерческих журналистских организаций имеют возможность протестировать классификатор изображений на платформе доступа к исследованиям OpenAI.

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
Белорусы теперь могут оплачивать покупки на Wildberries криптовалютой, но есть нюансы 5 мин.
OpenAI запустила подписку ChatGPT Go дешевле $5 в месяц в ещё одной стране 21 мин.
Постаревший Леон, приземлённый экшен и как никогда амбициозная история: инсайдер раскрыл новые подробности Resident Evil Requiem 26 мин.
Исполнитель роли Тревора в GTA V оказался равнодушен к GTA VI и призвал геймеров читать Достоевского 2 ч.
«Яндекс» поселил «Алису» на флагманском ИИ в мессенджерах Max и Telegram 2 ч.
Кодзима показал первый постер шпионского боевика Physint в духе Metal Gear и анонсировал ещё одну экранизацию Death Stranding 3 ч.
Google снова попытаются разорвать на части — Минюст США потребовал отделения рекламного бизнеса 3 ч.
Производитель Peugeot, Opel и Fiat заявил об утечке данных клиентов после хакерской атаки 4 ч.
Крупнейшие корпорации заливают миллиарды в ИИ, даже не понимая, зачем им это нужно 5 ч.
Трамп на этой неделе объявит, что сделка по TikTok соответствует требованиям закона, но не получит «золотую акцию» 6 ч.
DDR5 раскочегарили до 13 020 МГц — очередной рекорд разгона ОЗУ пока не подтверждён 8 мин.
В Южной Корее создали самые лучшие подводные солнечные элементы 13 мин.
Красный флаг для «красной» компании — Moody's раскритиковало эпохальный план Oracle по созданию ИИ ЦОД 2 ч.
Мечта Маска забуксовала: роботакси Tesla в Калифорнии будут вовсе не беспилотными и не совсем такси 2 ч.
Huawei собралась за три года догнать Nvidia в сфере ИИ, завалив рынок ускорителями Ascend и не только 2 ч.
SoftBank, Meta и др. проложат между Японией и Сингапуром подводный интернет-кабель Candle длиной 8 тыс. км 2 ч.
Найдётся всё: Китай запустил самый мощный в мире георадар, от которого в толще Земли ничего не скроется 3 ч.
Dreame открыл в Москве флагманский магазин нового формата 3 ч.
Учёные укротили свет в алмазах для прорыва в квантовых технологиях 3 ч.
К ИИ готов: одобрен проект первого в России ЦОД гиперскейл-класса 4 ч.