Сегодня 23 июня 2025
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

Появился сетевой червь, работающий через сервисы ИИ — он размножается, рассылает спам и похищает данные

Международная группа исследователей в области кибербезопасности разработала червя, способного самостоятельно распространяться между сервисами генеративного искусственного интеллекта, похищать данные и рассылать спам по электронной почте.

 Источник изображения: Growtika / unsplash.com

Источник изображения: Growtika / unsplash.com

По мере развития систем генеративного ИИ, таких как OpenAI ChatGPT и Google Gemini, они всё чаще используются для решения конкретных задач, например, создания событий в календарях или заказа продуктов. Исследователи технологий кибербезопасности, однако, решили продемонстрировать, что подобные системы могут нести угрозу — они создали новый вид атак, которого прежде не существовало в принципе. Учёные разработали червя, получившего название Morris II в честь первого компьютерного червя Morris, который в 1988 году заразил 6200 компьютеров — 10 % всех компьютеров, на тот момент подключённых к интернету. Morris II через электронную почту разворачивает атаку на виртуальных помощников, основанных на генеративном ИИ, производит кражу данных из электронных писем и рассылает спам, минуя средства защиты ChatGPT и Gemini.

Авторы исследования испытали новую модель атаки в изолированных средах — она оказалась возможной из-за мультимодального характера больших языковых моделей, то есть их способности работать с текстом, изображениями и видео. Атакующие генеративный ИИ черви ещё не были обнаружены на практике, но исследователи предупреждают, что эту угрозу следует принимать в расчёт и одиночным разработчикам, и стартапам, и технологическим компаниям.

Большинство систем генеративного ИИ работает, получая текстовые команды — просьбы ответить на вопрос или создать изображение. Эти команды можно использовать против системы, заставив её проигнорировать меры безопасности и выдать недопустимый контент; ей можно дать неявные инструкции, например, предложив ей адрес вредоносной страницы со скрытым текстом таких команд. Принцип работы атакующего генеративный ИИ червя состоит в механизме «состязательной самовоспроизводящейся команды» (adversarial self-replicating prompt). Такая команда заставляет модель генеративного ИИ выдавать в ответе ещё одну команду. Это во многом напоминает традиционные схемы атак вроде SQL-инъекций и переполнения буфера.

Чтобы продемонстрировать работу червя, исследователи создали службу электронной почты, способную получать и отправлять сообщения с помощью генеративного ИИ — для этого она подключается к ChatGPT, Gemini и открытой модели LlaVA. Затем они применили два способа эксплуатации уязвимости ИИ: при помощи самовоспроизводящейся текстовой инструкции и аналогичной инструкции, встроенной в файл изображения.

Осуществляя тестовую атаку, исследователи подготовили электронное письмо с вредоносной командой на генерацию ответа с использованием поиска в интернете, при котором большая языковая модель обращается за дополнительной информацией в Сеть. Получив такое письмо, служба для генерации ответа направляет запрос в GPT-4 или Gemini Pro — этот запрос производит «взлом генеративного ИИ» и осуществляет кражу данных из электронных писем. Ответ ИИ, содержащий конфиденциальные данные пользователя, далее сам при ответе на электронное письмо заражает новые хосты и сохраняется в базе нового клиента. Во втором примере такой командой стал файл изображения: заложив в файл картинки команду на самовоспроизводство, можно одной отправкой электронного письма спровоцировать дальнейшую массовую рассылку изображения любого содержания, включая оскорбительные или экстремистские материалы. Исследователи утверждают, что таким способом можно извлекать данные электронных писем, в том числе номера телефонов, кредитных карт, номеров социального страхования — любую конфиденциальную информацию.

Авторы исследования отмечают, что эти методы атак оказались возможными из-за ошибок при проектировании архитектуры в экосистеме ИИ. Они поделились своим открытием с Google и OpenAI — в OpenAI подтвердили наличие угрозы, но добавили, что компания работает над повышением устойчивости своих систем, а в Google от комментариев отказались. Чтобы защититься от подобных атак, эксперты предлагают не только повысить надёжность систем, но и изменить модель их эксплуатации: пользователям не следует предоставлять ИИ привилегий, таких как возможность отправки электронной почты от их имени — все действия система должна согласовывать с человеком. Кроме того, многократное повторение одной и той же команды ИИ в системе вызовет подозрение у защитных механизмов. Тем не менее, исследователи считают, что атакующие генеративный ИИ черви начнут работать в ближайшие два или три года.

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
Найден действенный способ ускорить графику Intel на 20 %, но придётся пожертвовать безопасностью 5 мин.
Dune: Awakening установила рекорд по скорости продаж для Funcom — более 800 тысяч смертей от Шаи-Хулуда и другие достижения игроков 22 мин.
Broadcom представила VMware Cloud Foundation 9 — основу основ для современного частного облака 5 ч.
Разработчики российского MMO-шутера Pioner раскрыли, как будут улучшать игру по итогам тестирования в Steam 6 ч.
На вершине успеха: кооперативная игра Peak от авторов Content Warning и Another Crab's Treasure покорила Steam и стала хитом продаж 8 ч.
«История выглядит намного мрачнее, чем я думал»: сюжетный трейлер Borderlands 4 удивил игроков 8 ч.
Team Vitality стала чемпионом Blast.tv Austin Major 2025 — это уже седьмая подряд победа команды на крупных турнирах по Counter-Strike 2 в 2025 году 9 ч.
Huawei выпустила «безандроидную» бета-версию HarmonyOS 6 — пока только для разработчиков 9 ч.
Как избежать оборотных штрафов по 152-ФЗ и не сломать маркетинг: объясняют эксперты рынка, регуляторы и юристы 10 ч.
Утечка: в открытый доступ попал первый час прохождения Death Stranding 2: On the Beach 10 ч.
Представлен Vivo X200 FE — компактный флагман с батареей на 6500 мА·ч и дизайном iPhone 56 мин.
Вышли подробные обзоры Nintendo Switch 2 — в целом хорошо, но экран мог бы быть получше 2 ч.
SK hynix выпустит кастомную HBM4E-память для NVIDIA, Microsoft и Broadcom 3 ч.
3data модернизировала московский ЦОД «М8», добавив мощности для колокейшн-клиентов 3 ч.
Отечественный телеком стал донором средств для законодательных инициатив, пожаловались операторы связи 6 ч.
Экс-глава Intel вложился в стартап, создающий сверхпроводниковые чипы для суперкомпьютеров 6 ч.
xAI воспользуется облаком Oracle для обучения и инференса Grok 6 ч.
Бум ИИ-технологий заставляет Wistron оперативно масштабировать производство серверов 7 ч.
Власти США заподозрили DeepSeek в сотрудничестве с китайским правительством и обходе американских санкций 7 ч.
Подземный суперкомпьютер Olivia стал самым мощным в Норвегии 8 ч.