Сегодня 22 сентября 2025
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

Хакер внедрил в ChatGPT ложные воспоминания для кражи пользовательских данных

У ChatGPT обнаружена уязвимость, которая позволяет потенциальному злоумышленнику внедрять в долгосрочную память чат-бота о пользователе ложную информацию при помощи вредоносных запросов — это открывает доступ к персональным данным жертвы. В OpenAI открытие, сделанное экспертом по кибербезопасности Иоганном Рейбергером (Johann Rehberger), поначалу сочли незначительной угрозой и быстро закрыли расследование.

 Источник изображения: Growtika / unsplash.com

Источник изображения: Growtika / unsplash.com

При эксплуатации уязвимости злоумышленник получает доступ к долговременной памяти переписки — эту функцию OpenAI начала тестировать в феврале и выпустила в общий доступ в сентябре. Память ChatGPT хранит важную информацию из переписки с пользователем и использует её в качестве контекста во всех будущих диалогах. Большая языковая модель знает о пользователе такие сведения, как его возраст, пол, убеждения и многое другое, поэтому некоторые данные не приходится вводить при каждой последующей переписке.

Рейбергер, однако, обнаружил, что с помощью непрямой инъекции внутри запроса можно создавать искусственные записи в памяти ChatGPT — такой инъекцией могут быть электронные письма, записи в блогах и электронные документы. Исследователь продемонстрировал, как можно обмануть ChatGPT, заставив искусственный интеллект поверить, что целевому пользователю 102 года, он живёт в «Матрице» и считает Землю плоской. Во всех последующих разговорах с пользователем ИИ отталкивался от этих ложных данных. Ложные воспоминания внедрялись с помощью файлов в хранилищах Google Диска и Microsoft OneDrive, загрузки файлов и просмотра сайтов, включая Bing.

В мае эксперт сообщил о своём открытии OpenAI, но компания закрыла тикет обращения в том же месяце. Месяц спустя Рейбергер подал повторное обращение, к которому приложил модель взлома — она заставила приложение ChatGPT для macOS отправлять всю переписку пользователя с чат-ботом на сервер, выбранный потенциальным злоумышленником. Для этого было достаточно указать ИИ открыть ссылку, по которой загружалось вредоносное изображение — после этого хакер получал все журналы диалогов человека и машины. Извлечение данных продолжалось даже при запуске новой переписки.

Впоследствии OpenAI частично исправила уязвимость, закрыв возможность эксплуатировать функцию памяти в качестве вектора для извлечения данных. Однако, по мнению Рейбергера, возможность делать это с помощью инъекций в составе вредоносных запросов всё ещё сохраняется. Пользователям ChatGPT рекомендовано отмечать время сеансов, при которых добавляются новые материалы в память ИИ, а также регулярно проверять память на наличие инъекций от ненадёжных источников. Для управления функцией памяти OpenAI подготовила инструкцию.

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
Еврокомиссия пытается ограничить доступ американских бигтехов к финансовым данным граждан 42 мин.
В сделку по TikTok вовлечены руководители Fox Corp, Dell и Oracle 3 ч.
Китайцы утратят контроль над американским TikTok после сделки с США — лишь 1 из 7 мест в совете директоров достанется ByteDance 20 ч.
Новая статья: Hell is Us — прекрасная диковинка. Рецензия 21-09 00:03
Jaguar Land Rover уже три недели не может запустить информационные системы после хакерского взлома 20-09 15:02
Microsoft представила радужный отчёт о Windows Arm, но основную проблему «замела под ковёр» 20-09 14:28
Microsoft «тестирует» ещё одну кнопку Copilot в Windows 11 20-09 14:26
Xiaomi раскрыла перечень, из которого ясно, какие устройства перейдут на HyperOS 3 и когда 20-09 11:13
Дональд Трамп планирует взыскать несколько миллиардов долларов с участников сделки по TikTok 20-09 05:59
Трамп заявил, что сделка с TikTok в целом одобрена китайской стороной 20-09 05:26
Энтузиаст прошил Radeon RX 9070 BIOSом от XT, получив прирост в 25% в синтетических тестах 4 ч.
Новая статья: Обзор игрового ноутбука ASUS TUF Gaming A18 FA808UM (2025): любить вопреки 8 ч.
Хакеры нарушили работу европейских аэропортов, взломав софт для регистрации пассажиров 11 ч.
Schneider Electric готовит стойки NVIDIA GB300 NVL72 мощностью 142 кВт 19 ч.
В Германии запущена квантово-классическая система с суперчипами NVIDIA GH200 19 ч.
Трамп внезапно ударил по американским ИТ-гигантам — рабочие визы США для инженеров подорожают в 100 раз 21-09 06:30
Meta намерена стать энергокомпанией и продавать электричество — Amazon, Google и Microsoft уже делают то же самое 21-09 01:35
Meta готова потратить $20 млрд на аренду ИИ-мощностей у Oracle 21-09 01:05
Инопланетяне могут прослушивать наши радиосообщения на удалении десятков световых лет, выяснило NASA 20-09 20:49
Apple не обманула: iPhone Air подтвердил статус самого прочного смартфона компании 20-09 19:02