Сегодня 21 июня 2024
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

Создатель ChatGPT разработал инструмент для выявления текстов, написанных ИИ

Компания OpenAI, разработавшая ИИ-бот ChatGPT, способный писать довольно сложные осмысленные тексты, заявила о создании нового инструмента, позволяющего идентифицировать происхождение написанного. По данным представителей стартапа, новая версия инструмента более точно распознаёт контент, созданный ИИ, чем вариант 2019 года.

 Источник изображения: Mel Poole/unsplash.com

Источник изображения: Mel Poole/unsplash.com

Инструмент представили всего через пару месяцев после того, как OpenAI привлекла всеобщее внимание, представив ChatGPT — бота, способного писать тексты, автором которых, на первый взгляд, мог бы быть и человек. На прошлой неделе Microsoft, уже вложившая в OpenAI довольно большие средства, анонсировала многомиллиардные инвестиции с прицелом на интеграцию разработок стартапа в свои сервисы.

Многие учебные заведения довольно быстро ограничили использование ChatGPT учащимися, опасаясь, что использование бота негативно скажется на качестве учебного процесса. Как пошутил глава OpenAI Сэм Альтман (Sam Altman), в своё время процесс обучения изменился и с появлением калькуляторов. Впрочем, он также сообщил, что компания, вероятно, поможет учителям распознавать «работы-подделки», выполненные ИИ.

Пока разработка нового инструмента продолжается и он всё ещё совершает много ошибок. В компании ожидают обратной связи от учителей и родителей. По оценкам самой OpenAI, при оценке тестового набора текстов на английском, программа-классификатор успешно идентифицирует 26 % подготовленных ИИ текстов, называя их «вероятно написанными ИИ», в то же время некорректно определяя 9 % текстов, созданных людьми, как написанные искусственным интеллектом.

Это не первая попытка создать средство, позволяющее распознавать текст, создаваемый машинами. В этом месяце студент Принстонского университета Эдвард Тянь (Edward Tian) анонсировал инструмент GPTZero, предназначенный для преподавателей. OpenAI сама выпустила средство для распознавания текстов ИИ ещё в 2019 году, одновременно с языковой моделью LLM, которая несколько проще ядра ChatGPT. По словам сотрудников стартапа, новая версия инструмента намного лучше справляется с распознаванием текстов «искусственного» авторства.

Известно, что инструмент не силён в анализе фрагментов менее 1000 знаков, и OpenAI не рекомендует использовать его с другими языками помимо английского. Кроме того, созданный ИИ текст можно слегка скорректировать вручную, благодаря чему его будет сложнее идентифицировать. Ещё в 2019 году OpenAI подчёркивала, что идентификация синтетических текстов является непростой задачей, но компания намерена работать над системой распознавания и в дальнейшем.

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Вечерний 3DNews
Каждый будний вечер мы рассылаем сводку новостей без белиберды и рекламы. Две минуты на чтение — и вы в курсе главных событий.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
«Как достать соседа», но про экзорцизм и демонов: российский хоррор-квест Exiler не выйдет в 2024 году, зато в Steam стартовало тестирование 57 мин.
Глава студий Xbox намекнул, почему закрыли Tango Gameworks — создателей Hi-Fi Rush и The Evil Within 2 ч.
Microsoft спрятала спорную ИИ-функцию Recall даже от тестировщиков Windows Insider 3 ч.
Elden Ring и дополнение Shadow of the Erdtree появились в VK Play, но только в виде ключей для Steam 3 ч.
Huawei похвалилась успехами в сфере ИИ и ОС: развитие идёт втрое быстрее конкурентов из США и Европы 4 ч.
HeadHunter открыла свою деловую соцсеть для всех 4 ч.
НСПК пережила крупнейшую кибератаку — СБП сбоила несколько часов 4 ч.
Анонсирована нелинейная игра про оператора огромной планетарной пушки — трейлер и подробности PVKK: Planetenverteidigungskanonenkommandant 5 ч.
«Пробирает не хуже оригинала»: GamesVoice показала ту самую сцену из Alan Wake 2 полностью на русском языке 6 ч.
С начала года Минцифры заблокировало 64 тысячи мошеннических сайтов 6 ч.