Сегодня 01 июля 2025
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

ChatGPT уличили в наглом вранье при поиске новостей в интернете

Специалисты Центра цифровой журналистики Tow при Колумбийском университете провели тестирование поисковика в популярном чат-боте на базе искусственного интеллекта ChatGPT компании OpenAI. Оказалось, что алгоритм не слишком хорошо справляется с поиском источников новостей и зачастую выдаёт неточные ответы.

 Источник изображения: Mariia Shalabaieva / unsplash.com

Источник изображения: Mariia Shalabaieva / unsplash.com

OpenAI открыла доступ к функции поиска в ChatGPT для пользователей в октябре этого года, заявив, что она способна предоставлять «быстрые и актуальные ответы со ссылками на соответствующие веб-источники». Однако в ходе тестирования этого инструмента оказалось, что он с трудом распознаёт цитаты из статей, даже если их публиковали издатели, которые разрешили OpenAI использовать свой контент для обучения больших языковых моделей (LLM).

Авторы исследования попросили ChatGPT указать источники «двухсот цитат из двадцати источников». Сорок из этих цитат были взяты из материалов издателей, которые запретили поисковому роботу OpenAI доступ к своим сайтам. Тем не менее, даже в этих случаях чат-бот уверенно отвечал, выдавая ложную информацию, а также в некоторых случаях признаваясь, что не уверен в достоверности предоставленной информации.

«В общей сложности ChatGPT вернул частично или полностью неправильные ответы в 153 случаях, тогда как неспособность дать точный ответ он признал лишь 7 раз. Только в этих 7 результатах чат-бот использовал уточняющие слова и фразы, такие как "похоже", "это возможно", "возможно", или утверждения вроде "я не смог найти оригинальную статью"», — говорится в сообщении исследователей.

Ещё в ходе серии тестов были выявлены случаи, когда поисковый инструмент ChatGPT выдавал результаты, в которых цитаты из письма в редакцию Orlando Sentinel ошибочно соотносились с материалами журнала Time. В другом примере, когда чат-бота попросили указать источник цитаты из статьи New York Times о находящихся под угрозой исчезновения китах, он выдал ссылку на веб-сайт, который попросту скопировал и опубликовал оригинальную статью.

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
Руководство OpenAI признало, что конкуренция за ценные кадры вынуждает его шевелиться 4 ч.
Марк Цукерберг собрал звёздную команду для разработки суперинтеллекта 5 ч.
Microsoft испытала ИИ-доктора MAI-DxO, который ставит диагнозы в 4 раза точнее врачей 9 ч.
The Blood of Dawnwalker, Code Vein 2 и многие другие: анонсирована игровая презентация Bandai Namco Summer Showcase 2025 10 ч.
Комиссионный хаос: Apple изменила правила App Store для ЕС так, что теперь их никто не понимает 10 ч.
«Это был ошибочный выбор»: авторы The Alters подтвердили, что в игру попал ИИ-контент, и объяснили, как так получилось 11 ч.
AMD выпустила драйвер с поддержкой FSR 4 для Monster Hunter Wilds и GTA V Enhanced 11 ч.
Календарь релизов — 1–6 июля: Mecha Break, Dying Light Retouched и девятый сезон Diablo IV 12 ч.
Avanpost: в корпоративном сегменте по-прежнему большей частью полагаются на обычные пароли и LDAP 12 ч.
Надёжный инсайдер раскрыл, когда ждать анонс и релиз следующей Ghost Recon 12 ч.
OpenAI пока не готова активно использовать ускорители Google в своей инфраструктуре 2 ч.
Пять причин полюбить HONOR 400 Pro 3 ч.
Apple не смогла отклонить иск Министерства юстиции США о монополии на рынке смартфонов 5 ч.
Новая статья: Обзор Core Ultra 7 265K: гадкий утёнок 9 ч.
В России вышло игровое кресло Filum FL-CH-G-070 с надёжной конструкцией и эргономичной посадкой 9 ч.
ИИ создаст спрос на передовые чипы: выпуск 7-нм и более тонких полупроводников вырастет на 69 % к 2028 году 10 ч.
В деревню, в глушь, на север: московский регион страдает от дефицита мощностей ЦОД, но скоро операторы могут уйти в провинцию 11 ч.
DJI выпустила грузовой дрон FlyCart 100 с грузоподъёмностью до 80 кг и передовыми системами безопасности 12 ч.
Дубай стал на шаг ближе к запуску аэротакси — Joby Aviation доставила первый серийный электролёт в ОАЭ 15 ч.
Китай через пять лет станет крупнейшим поставщиком чипов в мире с долей рынка в 30 %, несмотря на санкции 16 ч.