Сегодня 10 октября 2025
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

ChatGPT превратили в сообщника при краже секретных данных из Gmail

Специалисты из компании Redware, работающей в сфере информационной безопасности, опубликовали результаты исследования Shadow Leak, в рамках которого они использовали ИИ-бота ChatGPT в качестве сообщника для кражи конфиденциальных данных из почтовых ящиков Gmail. OpenAI уже закрыла эту уязвимость, но сам факт такой возможности является хорошим примером рисков, которые могут нести ИИ-агенты.

 Источник изображения: Kevin Ku / Unsplash

Источник изображения: Kevin Ku / Unsplash

Последнее время всё более распространёнными становятся ИИ-агенты, которые используют нейросети для выполнения определённых действий от имени пользователей и не нуждаются в постоянном контроле. К примеру, они могут просматривать веб-страницы и переходить по ссылкам. Разработчики в сфере ИИ активно продвигают такие сервисы, заявляя, что они позволяют экономить массу времени после того, как пользователь предоставит им доступ к своей почте, календарям, рабочим документам и т.д.

Для достижения поставленной цели исследовали задействовали метод «инъекция промптов», который подходит для атак на системы, использующие большие языковые модели (LLM), и предполагающий встраивание в вводимые пользователем команды инструкций с целью заставить ИИ-агента выполнять нужные злоумышленникам действия. При этом жертва такой атаки может не подозревать о том, что что-то пошло не так, поскольку команды алгоритму могут быть скрытыми, например, написанными белым цветом на белом фоне.

В рамках исследования Shadow Leak специалисты задействовали инструмент Deep Research, который являются частью системы ChatGPT компании OpenAI. Они сделали скрытым текст вредоносных инструкций для ИИ-агента и добавили его в электронное письмо, которое через Gmail направили жертве. Когда пользователь в следующий раз попытался задействовать инструмент Deep Research он невольно попал в ловушку. В процессе анализа поступающей корреспонденции ИИ-агент натолкнулся на новые инструкции, которые предписывали ему найти все письма от сотрудников отдела кадров и личные данные, после чего он должен был передать эту информацию злоумышленникам. При этом жертва атаки не заметила ничего необычного.

Отмечается, что достаточно сложно заставить выйти ИИ-агента из-под контроля и стать источником утечки данных. Исследователям потребовалось много времени прежде чем удалось добиться нужного результата. В данном случае утечка данных произошла в облачной инфраструктуре OpenAI, что делает её незаметной для стандартных средств защиты от киберугроз. Исследователи добавили, что другие подключённые к Deep Research сервисы, такие как Outlook, GitHub, Google Drive и Dropbox, могут быть уязвимы перед подобными атаками.

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
«Готовим фойе к прибытию первых гостей»: Pathologic 3 получит новую демоверсию в Steam, а «Карантин» подходит к концу 16 мин.
Apple берёт контроль: паранормальный экшен Control скоро выйдет на iPhone, iPad и даже Vision Pro 2 ч.
Новый трейлер раскрыл дату выхода Skate Story — сюрреалистического приключения о демоне-скейтере из стекла и боли 3 ч.
«Вернись, я всё прощу»: YouTube позволит некоторым заблокированным авторам вернуться на платформу 11 ч.
Новая статья: Лишнего не надо: обзор тематических поисковых сервисов 12 ч.
Почти $1 млрд сборов гарантировал экранизации Minecraft продолжение — первый тизер и дата выхода «Minecraft в кино 2» 13 ч.
MachineGames отметит 15-летие крупным обновлением для Indiana Jones and the Great Circle с «Новой игрой +» и другими востребованными улучшениями 14 ч.
Яркий мультиплеер и бледная кампания: критики вынесли вердикт Battlefield 6 15 ч.
Приложение OpenAI Sora скачали 1 млн раз менее чем за пять дней 16 ч.
Heroes of Might & Magic: Olden Era всё-таки не выйдет в 2025 году, но есть и хорошая новость — в Steam доступна демоверсия 16 ч.
Левитирующие электроны — новые кандидаты на роль идеальных кубитов 6 мин.
Китайская Deep Robotics представила первого «непромокаемого» гуманоидного робота 17 мин.
В Китае запущено полностью независимое производство подложек из карбида кремния 2 ч.
Intel готовит новый GPU-ускоритель, оптимизированный для инференса 2 ч.
Китайская таможня чинит препоны для ввоза в страну ускорителей Nvidia и не только 3 ч.
Сверхпрочный планшет OSCAL Spider 10 с батареей на 20 000 мА·ч поступил в глобальную продажу 3 ч.
Смартфоны Xiaomi 15T и Xiaomi 15T Pro с камерами с оптикой Leica поступили в продажу 3 ч.
Новая статья: Обзор смартфона HUAWEI nova 14: плоский красавец с крутыми камерами 3 ч.
Китай объявил «нежелательной организацией» лабораторию TechInsights, отслеживающую происхождение чипов Huawei 5 ч.
Intel начала в Аризоне выпуск чипов по технологии 18A, но завоёвывать доверие клиентов придётся непросто 7 ч.