Сегодня 31 марта 2025
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

OpenAI скрывает технологию распознавания текста, написанного ChatGPT — она может распугать пользователей

У OpenAI есть технология, позволяющая распознать с точностью 99,9 % текст, написанный ChatGPT, но разработчик не стал делать её доступной для общественности, пишет The Wall Street Journal. В компании есть опасения, что размещение инструмента для определения факта использования ChatGPT может повлечь за собой отказ части аудитории от применения её ИИ-решений.

 Источник изображения: Growtika/unsplash.com

Источник изображения: Growtika/unsplash.com

Дискуссия по этому поводу длилась в OpenAI порядка двух лет, сообщил источник в WSJ. Сотрудники OpenAI колебались между выбором придерживаться заявленной компанией приверженностью прозрачности в работе и желанием привлекать и удерживать пользователей. Также есть опасения, что использование инструмента может непропорционально повлиять на группы пользователей, которые не являются носителями английского языка.

Один из опросов, проведённых компанией среди лояльных пользователей ChatGPT, показал, что почти треть откажется от использования ИИ-бота или станет реже прибегать к нему, если будет предложен этот инструмент. Предлагаемая технология позволяет оставлять в тексте водяные знаки, невидимые для человеческого глаза, которые можно распознать с помощью технологии обнаружения OpenAI. Эта технология позволяет определить, что весь текст или его часть были написаны ChatGPT.

Вместе с тем сотрудники выразили обеспокоенность тем, что водяные знаки можно стереть с помощью довольно простых способов, например, сделав перевод текста с помощью Google Translate на другой язык и обратно или добавив эмодзи в текст с последующим их ручным удалением.

В обсуждениях возможности использования инструмента для борьбы с мошенничеством с ИИ принимали участие гендиректор OpenAI Сэм Альтман (Sam Altman) и технический директор Мира Мурати (Mira Murati), но окончательное решение так и не было принято.

Как сообщают источники WSJ, в начале июня топ-менеджеры и исследователи OpenAI провели встречу, чтобы обсудить проект. Участники встречи пришли к согласию по поводу эффективности технологии использования водяных знаков для определения авторства написания текста, но окончательное решение так и не было принято, поскольку результаты опроса пользователей ChatGPT в прошлому году вызывают опасения по поводу потери аудитории.

Компания Google тоже разработала технологию нанесения водяных знаков, получившую название SynthID, которая позволяет обнаруживать текст, созданный с помощью Gemini AI. В настоящее время технология проходит бета-тестирование и пока недоступна для общественности.

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
Amazon представила ИИ-агента Nova Act, который заменит человека в интернет-серфинге 3 ч.
Слухи: четыре известные корейские компании устроили борьбу за право создавать новые игры по StarCraft 3 ч.
Голливудские студии перенаправили монетизацию фейковых трейлеров на YouTube себе в карман 4 ч.
Франция оштрафовала Apple на €150 млн за ограничение таргетинга в iOS 4 ч.
«Самое брутальное зрелище в галактике»: новый геймплейный трейлер подтвердил дату выхода безжалостного боевика Kiborg от российских разработчиков 5 ч.
«Вы объединяете мир»: в Death Stranding сыграло более 20 миллионов человек 5 ч.
«Яндекс» выпустил открытую ИИ-модель YandexGPT 5 Lite: её можно запускать на обычной рабочей станции 6 ч.
«Яндекс» выпустила ИИ-модель YandexGPT 5 Lite — она поможет ускорить IT-разработку и исследования 7 ч.
Split Fiction установила три мировых рекорда и попала в «Книгу рекордов Гиннесса» 7 ч.
Monster Hunter Wilds продолжает бить рекорды Capcom — продажи игры за месяц достигли 10 миллионов копий 9 ч.
На рынке комплектующих для игровых ПК появился новый крупный игрок — HP расширила ассортимент геймерского бренда Omen 3 ч.
Acer представила 240-Гц игровые QD-OLED-мониторы Predator X27U X1 и Predator X32 X2 по цене от $600 3 ч.
Meta подписала соглашение с Sembcorp о поставке энергии плавучих солнечных генераторов в Сингапуре 3 ч.
Возврат к корням: Vantage Towers разместила базовые станции на деревянных столбах 4 ч.
Arm собралась руками Nvidia захватить половину рынка процессоров для дата-центров 4 ч.
Доступная раскладушка Samsung Galaxy Z Flip 7 FE будет выглядеть точно как прошлогодний Z Flip 6 6 ч.
На заводе «ЦТС» в Калининградской области начали выпускать серверные платы 6 ч.
Qualcomm представит 2 апреля новый процессор для бюджетных флагманов — преемника Snapdragon 8s Gen 3 7 ч.
Zeekr анонсировала зарядные станции с рекордной мощностью в 1,2 МВт, но подходящих электромобилей пока не существует 7 ч.
Oppo раскрыла дизайн смартфонов серии Oppo Find X8 в преддверии анонса 8 ч.