Сегодня 05 мая 2025
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

ИИ, который может управлять ПК без пользователя, обманом заставили скачать и запустить вирус

В октябре Anthropic представила модель искусственного интеллекта Claude Computer Use, которая позволяет нейросети Claude самостоятельно управлять компьютером по запросам пользователя. Исследователь в области безопасности ИИ нашёл способ обратить эту функцию во зло.

 Источник изображения: anthropic.com

Источник изображения: anthropic.com

Эксперт в области кибербезопасности Иоганн Ренбергер (Johann Rehnberger) опубликовал доклад о том, как сумел злоупотребить функцией Computer Use: ИИ по его запросу загрузил и запустил вредоносное приложение, после чего вышел на связь с контролирующим зловред сервером.

Следует отметить, что Claude Computer Use пока остаётся на стадии бета-тестирования, и разработавшая её компания Anthropic предупредила, что функция может работать не так, как задумано: «Рекомендуем принять меры предосторожности, чтобы изолировать Claude от важных данных и действий, чтобы избежать рисков, связанных с инъекциями в запросах». Подобные схемы атаки против ИИ остаются распространёнными.

Ренбергер назвал свой эксплойт ZombAIs — с его помощью эксперт заставил систему загрузить среду удалённого управления Sliver, которая была разработана для тестирования на проникновение, но киберпреступники адаптировали её для своих нужд. Он также отметил, что это не единственный способ использовать ИИ для преступной деятельности — например, можно заставить Claude написать вирус с нуля и скомпилировать его, потому что он может писать код на C.

Установлено также, что перед атаками через инъекции в запросах уязвим китайский чат-бот DeepSeek AI. А большие языковые модели оказались способны выводить код с управляющими символами ANSI для взлома системных терминалов — этот подтип атак получил название Terminal DiLLMa.

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
Oracle вновь предлагает российским кредиторам старые условия, которые их не устраивают 14 мин.
Календарь релизов — 5–11 мая: «Приключения капитана Блада», Hordes of Hunger и The Midnight Walk 43 мин.
Антимонопольный иск против Google может привести к исчезновению Firefox 2 ч.
Рынок DLP-систем взлетел на 40 % после принятия закона о штрафах за утечки персональных данных 2 ч.
Microsoft анонсировала Gears of War: Reloaded, в том числе для PS5 — дата выхода, технические улучшения и бесплатный апгрейд с подвохом 2 ч.
Apple оспорила решение суда, ограничившее её контроль над приложениями для iPhone 3 ч.
«До свидания, Skype»: Microsoft закрыла сервис, который когда-то первым принёс видеосвязь миллионам людей 4 ч.
В этом месяце Трамп заработает миллионы на криптовалюте всего за два вечера 5 ч.
«У нас появился шанс!»: звезда Kingdom Come: Deliverance 2 остался в восторге от переноса GTA VI 5 ч.
Город зверей, оккультный заговор и личное проклятие: анонсирован нуарный экшен The Shadow Syndicate с элементами L.A. Noire и Max Payne 10 ч.
Опубликованы детальные изображения каждого кристалла процессоров Intel Arrow Lake-S 2 мин.
Google и Broadcom совместно обеспечат кибербезопасность своих решений 3 ч.
США готовят закон об отслеживании ИИ-чипов после продажи, чтобы пресечь их контрабанду в Китай 3 ч.
1 Пбит/с через Атлантику: Meta намерена построить самый быстрый подводный кабель 3 ч.
Unitree представила робопса-пожарного с брандспойтом на месте головы 6 ч.
Профессиональная видеокарта Nvidia RTX Pro 6000 Blackwell Workstation Edition с 96 Гбайт GDDR7 поступила в продажу за €9000 6 ч.
Sparkle через пять месяцев после анонса выпустила видеокарту Arc B580 ROC Luna OC Ultra 8 ч.
XPeng показала человекоподобного робота Iron, который собирает электромобили 9 ч.
GigaIO и d-Matrix предоставят инференс-платформу для масштабных ИИ-развёртываний 9 ч.
Массовый выпуск чипов для сторонних клиентов Intel начнёт только в 2028 году, спрогнозировали аналитики Morgan Stanley 10 ч.