Сегодня 03 октября 2025
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

OpenAI скрывает технологию распознавания текста, написанного ChatGPT — она может распугать пользователей

У OpenAI есть технология, позволяющая распознать с точностью 99,9 % текст, написанный ChatGPT, но разработчик не стал делать её доступной для общественности, пишет The Wall Street Journal. В компании есть опасения, что размещение инструмента для определения факта использования ChatGPT может повлечь за собой отказ части аудитории от применения её ИИ-решений.

 Источник изображения: Growtika/unsplash.com

Источник изображения: Growtika/unsplash.com

Дискуссия по этому поводу длилась в OpenAI порядка двух лет, сообщил источник в WSJ. Сотрудники OpenAI колебались между выбором придерживаться заявленной компанией приверженностью прозрачности в работе и желанием привлекать и удерживать пользователей. Также есть опасения, что использование инструмента может непропорционально повлиять на группы пользователей, которые не являются носителями английского языка.

Один из опросов, проведённых компанией среди лояльных пользователей ChatGPT, показал, что почти треть откажется от использования ИИ-бота или станет реже прибегать к нему, если будет предложен этот инструмент. Предлагаемая технология позволяет оставлять в тексте водяные знаки, невидимые для человеческого глаза, которые можно распознать с помощью технологии обнаружения OpenAI. Эта технология позволяет определить, что весь текст или его часть были написаны ChatGPT.

Вместе с тем сотрудники выразили обеспокоенность тем, что водяные знаки можно стереть с помощью довольно простых способов, например, сделав перевод текста с помощью Google Translate на другой язык и обратно или добавив эмодзи в текст с последующим их ручным удалением.

В обсуждениях возможности использования инструмента для борьбы с мошенничеством с ИИ принимали участие гендиректор OpenAI Сэм Альтман (Sam Altman) и технический директор Мира Мурати (Mira Murati), но окончательное решение так и не было принято.

Как сообщают источники WSJ, в начале июня топ-менеджеры и исследователи OpenAI провели встречу, чтобы обсудить проект. Участники встречи пришли к согласию по поводу эффективности технологии использования водяных знаков для определения авторства написания текста, но окончательное решение так и не было принято, поскольку результаты опроса пользователей ChatGPT в прошлому году вызывают опасения по поводу потери аудитории.

Компания Google тоже разработала технологию нанесения водяных знаков, получившую название SynthID, которая позволяет обнаруживать текст, созданный с помощью Gemini AI. В настоящее время технология проходит бета-тестирование и пока недоступна для общественности.

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
ИИ-браузер Perplexity Comet стал доступен бесплатно для всех — прежде требовалась подписка за $200 в месяц 3 ч.
Starbreeze в честь второй годовщины Payday 3 объявила об отмене обещанного офлайн-режима, о котором фанаты просили с самого релиза 6 ч.
Epic Games Store устроил раздачу неовикторианского выживания Nightingale от команды бывшего руководителя BioWare 8 ч.
Нелинейная партийная RPG Starfinder: Afterlight отправит в галактику, где соединились магия и технологии — новый геймплейный трейлер 10 ч.
Facebook и Instagram обязали вернуть хронологические ленты в качестве стандартных, но только в Нидерландах 10 ч.
Музыкальные лейблы будут лицензировать контент разработчикам для «этичного» обучения ИИ 10 ч.
Starbreeze отменила кооперативный экшен по Dungeons & Dragons ради Payday — «одной из самых знаковых франшиз в игровой индустрии» 11 ч.
Затраты — выше, безопасность — ниже: Google снова посетовала на заградительное лицензирование Microsoft 11 ч.
Сэма Альтмана поймали за руку при попытке украсть видеокарту — это самое популярное ИИ-видео в Sora 12 ч.
YouTube тестирует новый интерфейс мобильного приложения — реакция пользователей ожидаемо негативная 12 ч.
Microsoft вложит $33 млрд в бывшую Yandex N.V. и другие «неоклауды», чтобы побороть дефицит мощностей для ИИ 6 ч.
RTX 5090 в 26 раз быстрее Radeon HD 5870: большой тест 180 видеокарт, вышедших с 2009 по 2025 год 6 ч.
У мозга появился конкурент — ДНК-компьютер с невероятно доступным источником питания 6 ч.
Microsoft потратит $33 млрд на доступ к 100+ тыс. NVIDIA GB300 в неооблаках, но со временем хочет перейти на свои ИИ-ускорители 7 ч.
В России начались продажи смартфонов Xiaomi 15T и 15T Pro с камерами Leica — от 54 990 рублей 8 ч.
MSI косвенно подтвердила совместимость процессоров AMD Zen 6 с платами AM5 8 ч.
Почти все новые iPhone разошлись лучше ожиданий — только одна модель не снискала популярности 9 ч.
HP представила 49-дюймовый офисный монитор Series 5 Pro с выдвижной веб-камерой и геймерскими характеристиками 9 ч.
Японцы научили ИИ видеть сквозь стены при помощи Wi-Fi 9 ч.
iPhone 17 Pro обвесили кулерами для SSD — и он выдержал стресс-тест почти без тротлинга 10 ч.