Сегодня 17 июня 2025
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

ИИ, который может управлять ПК без пользователя, обманом заставили скачать и запустить вирус

В октябре Anthropic представила модель искусственного интеллекта Claude Computer Use, которая позволяет нейросети Claude самостоятельно управлять компьютером по запросам пользователя. Исследователь в области безопасности ИИ нашёл способ обратить эту функцию во зло.

 Источник изображения: anthropic.com

Источник изображения: anthropic.com

Эксперт в области кибербезопасности Иоганн Ренбергер (Johann Rehnberger) опубликовал доклад о том, как сумел злоупотребить функцией Computer Use: ИИ по его запросу загрузил и запустил вредоносное приложение, после чего вышел на связь с контролирующим зловред сервером.

Следует отметить, что Claude Computer Use пока остаётся на стадии бета-тестирования, и разработавшая её компания Anthropic предупредила, что функция может работать не так, как задумано: «Рекомендуем принять меры предосторожности, чтобы изолировать Claude от важных данных и действий, чтобы избежать рисков, связанных с инъекциями в запросах». Подобные схемы атаки против ИИ остаются распространёнными.

Ренбергер назвал свой эксплойт ZombAIs — с его помощью эксперт заставил систему загрузить среду удалённого управления Sliver, которая была разработана для тестирования на проникновение, но киберпреступники адаптировали её для своих нужд. Он также отметил, что это не единственный способ использовать ИИ для преступной деятельности — например, можно заставить Claude написать вирус с нуля и скомпилировать его, потому что он может писать код на C.

Установлено также, что перед атаками через инъекции в запросах уязвим китайский чат-бот DeepSeek AI. А большие языковые модели оказались способны выводить код с управляющими символами ANSI для взлома системных терминалов — этот подтип атак получил название Terminal DiLLMa.

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
Огромный логотип Twitter весом более 250 кг взорвали в пустыне Невады 19 мин.
Свежий драйвер Nvidia добавил поддержку Path Tracing в Doom: The Dark Ages и исправил множество проблем в играх 33 мин.
Adobe выпустила мобильное приложение со всеми генеративными ИИ-инструментами Firefly 53 мин.
Кооперативный шутер FBC: Firebreak во вселенной Control разочаровал критиков и геймеров, а в России игра не работает 2 ч.
Соцсети стали главным источником новостей в США, обогнав телевидение и другие СМИ 2 ч.
Microsoft лепит Copilot куда ни попадя: регулятор обязал остановить «сбивающую с толку» рекламу ИИ 3 ч.
Facebook и Instagram скоро заполонят сгенерированные ИИ рекламные ролики 3 ч.
Дональд Трамп признал необходимость снова отсрочить блокировку TikTok в США 5 ч.
«Могли бы сделать много крутого»: если Pillars of Eternity 3 когда-нибудь выйдет, то будет похожа на Baldur's Gate 3 7 ч.
Разработчики Clair Obscur: Expedition 33 заинтриговали фанатов обещанием нового контента и будущих улучшений 8 ч.
В России дебютировал флагман Realme GT 7 по цене от 60 000 рублей, а также более доступный GT 7T 0 мин.
Google поиздевалась над «новыми» функциями iOS 26 и намекнула на возможности грядущего Pixel 10 19 мин.
В России начались продажи смартфонов серии Infinix Note 50 59 мин.
В Москве пройдёт всероссийский финал международных робототехнических соревнований MakeX 2 ч.
Deerma представила в России дебютную линейку роботов-пылесосов 2 ч.
Дальность действия NFC вырастет в четыре раза, а смартфоны смогут служить платёжными терминалами 2 ч.
Китай готов к массовому производству суверенных 1000-кубитовых квантовых компьютеров 3 ч.
В США нашёлся «островок» рекомендованных цен на GeForce RTX 5000 — но доступен он далеко не всем 3 ч.
Тысячи россиян пожаловались на проблемы в работе мобильного интернета в Сибири и других регионах 4 ч.
Китайская HKC представила первый в мире игровой монитор с частотой обновления 800 Гц 4 ч.