Сегодня 28 сентября 2026
18+
MWC 2018 2018 Computex IFA 2018
реклама
Теги → доклад

Авторитетное консалтинговое агентство KPMG опубликовало доклад об ИИ — и в нём нашли ИИ-галлюцинации

Крупное консалтинговое агентство KPMG в октябре 2025 года опубликовало доклад на тему агентов искусственного интеллекта, который сам, вероятно, был написан ИИ: в документе обнаружено множество поддельных цитат и ссылок на несуществующие тематические исследования.

 Источник изображения: Steve A Johnson / unsplash.com

Источник изображения: Steve A Johnson / unsplash.com

«Из 45 цитат в докладе только в пяти правильно указаны реальные источники», — сообщили изучившие документ эксперты компании GPTZero. Все остальные были либо полностью вымышленными, либо имели существенные искажения. При изучении инцидента в GPTZero ввели новый термин «вайб-цитирование» (vibe citing) — наличие в публикациях сгенерированных ИИ несуществующих цитат, которые выглядят правдоподобно. В докладе также содержатся странные сочетания реальных ссылок, перефразированных заголовков и неправильных указаний на авторов. «Человек не станет последовательно перефразировать названия, путать темы у авторов или повторять информацию в нескольких фрагментах», — отмечают в GPTZero.

Исследователи приводят аргументы за и против вайб-цитирования, но делают вывод, что ошибки в докладе стали плодом ИИ-галлюцинаций. Проблема в том, отмечают они, что у KPMG очень большое влияние — выводы консалтингового агентства будут цитироваться во всём мире, в новостных репортажах, сообщениях в блогах и в других обсуждениях, то есть недостоверная информация будет активно распространяться. Усилит этот эффект дальнейшее цитирование доклада чат-ботами с ИИ. «GPTZero утверждает, что вайб-цитирование представляет собой явную и реальную опасность для исследователей, учёных, консультантов, студентов и всех, кто ищет информацию в интернете», — заключают исследователи.


window-new
Soft
Hard
Тренды 🔥
ИИ уже сам планирует кибератаки — OpenAI, Anthropic и Google наняли стартап для поиска «злого» поведения моделей 6 ч.
Апелляционный суд США поддержал стремление Пентагона внести Anthropic в чёрный список поставщиков 9 ч.
Новая статья: Marvel’s Wolverine — самый высокобюджетный IQ-тест. Рецензия 27-09 00:09
Supergiant отметила годовщину Hades 2 бесплатным музыкальным концертом по игре и анонсом документального фильма о разработке 26-09 17:22
ИИ-агенты OpenAI слили в интернет 53 изображения пользователей ChatGPT — заметили это лишь спустя время 26-09 16:10
Claude нашёл «новый CRISPR», но учёные засомневались в значимости открытия Anthropic 26-09 14:03
ИИ-агенты OpenAI оставили миллион следов взлома Hugging Face в открытом интернете 26-09 13:39
Qualcomm раскрыла план по освобождению от монополии Nvidia в сфере ИИ 26-09 10:28
ИИ-агенты OpenAI массово атаковали базы данных онлайн в поисках малоизвестных сведений 26-09 09:15
Из Google DeepMind ушёл ещё один сотрудник, опасающийся разработки сверхмощного искусственного интеллекта 26-09 09:10