Сегодня 08 июля 2025
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

ИИ, который может управлять ПК без пользователя, обманом заставили скачать и запустить вирус

В октябре Anthropic представила модель искусственного интеллекта Claude Computer Use, которая позволяет нейросети Claude самостоятельно управлять компьютером по запросам пользователя. Исследователь в области безопасности ИИ нашёл способ обратить эту функцию во зло.

 Источник изображения: anthropic.com

Источник изображения: anthropic.com

Эксперт в области кибербезопасности Иоганн Ренбергер (Johann Rehnberger) опубликовал доклад о том, как сумел злоупотребить функцией Computer Use: ИИ по его запросу загрузил и запустил вредоносное приложение, после чего вышел на связь с контролирующим зловред сервером.

Следует отметить, что Claude Computer Use пока остаётся на стадии бета-тестирования, и разработавшая её компания Anthropic предупредила, что функция может работать не так, как задумано: «Рекомендуем принять меры предосторожности, чтобы изолировать Claude от важных данных и действий, чтобы избежать рисков, связанных с инъекциями в запросах». Подобные схемы атаки против ИИ остаются распространёнными.

Ренбергер назвал свой эксплойт ZombAIs — с его помощью эксперт заставил систему загрузить среду удалённого управления Sliver, которая была разработана для тестирования на проникновение, но киберпреступники адаптировали её для своих нужд. Он также отметил, что это не единственный способ использовать ИИ для преступной деятельности — например, можно заставить Claude написать вирус с нуля и скомпилировать его, потому что он может писать код на C.

Установлено также, что перед атаками через инъекции в запросах уязвим китайский чат-бот DeepSeek AI. А большие языковые модели оказались способны выводить код с управляющими символами ANSI для взлома системных терминалов — этот подтип атак получил название Terminal DiLLMa.

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
«Romero Games не закрылась»: студия соавтора Doom Джона Ромеро жива, несмотря на отмену нового шутера 2 ч.
Британские СМИ восстали против ИИ-сводок в поиске Google и требуют отключить опцию 3 ч.
Чат-бот Илона Маска Grok стал ещё более «политически некорректным» после обновления 3 ч.
Браузер Microsoft Edge научился загружать страницы ещё быстрее — менее чем за 300 мс 6 ч.
OpenAI начала тестировать в ChatGPT образовательный режим ответов «Учимся вместе» 6 ч.
Apple одумалась: Liquid Glass стал менее прозрачным и более читаемым в новой бете iOS 26 11 ч.
Epic Games помирилась с Samsung — за блокировку сторонних магазинов на Android теперь ответит только Google 12 ч.
Календарь релизов — 7–13 июля: Tony Hawk’s Pro Skater 3 + 4, Mycopunk и Ground of Aces 13 ч.
Capcom побоялась проводить лекцию об оптимизации Monster Hunter Wilds на фоне «крайне отрицательных» обзоров в Steam 13 ч.
В TON Foundation признали, что заморозка TON на $100 000 не гарантирует «золотую визу» ОАЭ 13 ч.