Сегодня 25 апреля 2025
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

OpenAI: детекторы ИИ и сам ChatGPT неспособны отличить текст нейросети от человеческого

OpenAI признала, что существующие инструменты для обнаружения текстов, созданных ИИ, неэффективны и часто дают ложные срабатывания. В обновлённом разделе с часто задаваемыми вопросами (FAQ) компания подчёркивает, что даже сам ChatGPT не способен точно определить, создан текст человеком или машиной. Эксперты призывают отказаться от автоматизированных инструментов обнаружения ИИ и полагаться на человеческий опыт и интуицию.

 Источник изображения: mozarttt / Pixabay

Источник изображения: mozarttt / Pixabay

На своём сайте в разделе FAQ под заголовком «Как преподаватели могут реагировать на то, что студенты выдают работы, созданные ИИ, за свой собственные?» компания рассказывает о том, работают ли детекторы ИИ: «Коротко говоря — нет. Несмотря на то, что некоторые компании (включая OpenAI) выпустили инструменты, предназначенные для обнаружения контента, созданного ИИ, ни один из них не смог достоверно отличить контент, созданный ИИ, от контента, созданного человеком».

Такие детекторы ИИ, как, например, GPTZero, часто дают ложные срабатывания из-за того, что в их основе лежат непроверенные методы детекции. В конечном счёте, нет ничего особенного в текстах, созданных ИИ, что всегда отличало бы их от текстов, написанных человеком. К тому же детекторы можно обойти, перефразировав текст. В июле OpenAI прекратила поддержку своего экспериментального инструмента AI Text Classifier с печальным показателем точности 26 %.

Компания также разрушает другой миф, что ChatGPT может определить, создан текст машиной или нет: «К тому же, у ChatGPT нет „понимания“, какой контент может быть создан ИИ. Он иногда выдумывает ответы на вопросы вроде „ты написал это [эссе]?“ или „это могло быть написано ИИ?“. Эти ответы случайны и не имеют под собой никаких оснований».

OpenAI также говорит о склонности своих ИИ-моделей сообщать ложную информацию: «Иногда ChatGPT звучит убедительно, но может дать неверную или вводящую в заблуждение информацию (часто называемую „галлюцинацией“). Он даже может выдумывать вещи вроде цитат или ссылок, поэтому не используйте его как единственный источник для исследований». Так, например, в мае нью-йоркскому адвокату, который воспользовался ChatGPT и получил в ответ вымышленные факты, грозила потеря лицензии.

Несмотря на то, что детекторы ИИ не работают, это не значит, что человек никогда не сможет обнаружить текст, созданный ИИ. Например, преподаватель, знакомый с письменным стилем ученика, может заметить, когда его стиль или уровень знаний внезапно меняются.

К тому же, некоторые неаккуратные попытки выдать текст, созданный ИИ, за свой собственный, могут иметь характерные признаки, такие как фраза «как модель языка ИИ», что указывает на то, что человек просто скопировал и вставил ответ, полученный от ChatGPT, даже не прочитав его. Недавно в научном журнале Nature была опубликована статья о том, как в одной научной статье читатели обратили внимание на фразу «Regenerate response» (сгенерировать новый ответ), которая является элементом интерфейса ChatGPT.

На текущем этапе технологического развития безопаснее всего избегать полностью автоматизированных инструментов для определения текстов, созданных с помощью ИИ. Это подтверждает и мнение Этана Моллика (Ethan Mollick), профессора из бизнес-школы Уортона (Wharton School of the University of Pennsylvania) и аналитика в области ИИ. Он подчёркивает, что на данный момент детекторы ИИ имеют высокий уровень ложных срабатываний, и ими пользоваться не следует.

Таким образом, вопрос об отличии машинного текста от человеческого остаётся открытым, а ответ на него, возможно, лежит в области интуитивного понимания и профессионального опыта каждого отдельного человека.

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
Стараниями Илона Маска IBM потеряла миллионные контракты, но всё равно превзошла ожидания аналитиков по итогам квартала 3 ч.
Remedy подтвердила дату выхода и показала много геймплея кооперативного шутера FBC: Firebreak во вселенной Control 4 ч.
Epic Games Store запустил на PC, Android и iOS раздачу комедийного приключения Chuchel от создателей Machinarium и Botanicula 4 ч.
Европейские правозащитники обвинили Ubisoft в незаконном сборе данных игроков 6 ч.
Браузер Chrome для Android наконец-то научился открывать PDF-файлы 7 ч.
9 из 10 россиян хотя бы раз в месяц посещают «ВКонтакте» — VK похвасталась популярностью сервисов и отчиталась о росте выручки 9 ч.
Adobe создала аналог robots.txt для изображений, чтобы запретить обучать ИИ на них 9 ч.
Сюжетный трейлер раскрыл дату выхода Unfinished Business — самостоятельного дополнения к RoboCop: Rogue City 10 ч.
Видеосервис для совместной работы MWS TeamStream на треть сократит время общения сотрудников 10 ч.
Meta предложила Amazon и Microsoft «скинуться» на обучение ИИ-моделей Llama 11 ч.
Новая статья: Обзор смартфона Samsung Galaxy A56: игра в классики 2 ч.
Новая статья: Корпус DeepCool CG580: максимум функциональности, минимум стоимости 3 ч.
Квантовым процессорам из кремния быть — австралийский стартап впервые запутал квантовые «транзисторы» 4 ч.
Motorola представила флагманскую раскладушку Razr 60 Ultra и версию подешевле Razr 60 — обе с защитой пыли 4 ч.
Motorola представила мощные смартфоны Edge 60 и Edge 60 Pro с ёмкими батареями и Pantone-дисплеями 4 ч.
Xiaomi представила первый в мире смартфон на Snapdragon 8s Gen 4 — Redmi Turbo 4 Pro по цене от $275 6 ч.
Швеция не нашла следов намеренного повреждения кабелей на Балтике, но Китай всё равно мешает расследованию 6 ч.
Xiaomi выпустила игровой монитор Redmi G Pro 27U с Mini-LED и поддержкой 4K со 160 Гц и 1080p с 320 Гц всего за $370 6 ч.
AMD всё же выпустит ещё одну модификацию Radeon RX 9070 — она будет медленнее остальных 7 ч.
Минцифры продаст «фактически последние свободные частоты» для 5G за более чем ₽40 млрд 8 ч.