Сегодня 23 января 2025
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Hardware

Справится даже ребёнок: роботы на базе ИИ оказались совершенно неустойчивы ко взлому

Новое исследование IEEE показало, что взломать роботов с искусственным интеллектом так же просто, как и обмануть чат-ботов. Учёные смогли заставить роботов выполнять опасные действия с помощью простых текстовых команд.

 Источник изображения: Copilot

Источник изображения: Copilot

Как пишет издание HotHardware, если для взлома устройств вроде iPhone или игровых консолей требуются специальные инструменты и технические навыки, то взлом больших языковых моделей (LLM), таких как ChatGPT, оказывается гораздо проще. Для этого достаточно создать сценарий, который обманет ИИ, заставив его поверить, что запрос находится в рамках дозволенного или что запреты можно временно игнорировать. Например, пользователю достаточно представить запрещённую тему как часть якобы безобидного рассказа «от бабушки на ночь», чтобы модель выдала неожиданный ответ, включая инструкции по созданию опасных веществ или устройств, которые должны быть системой немедленно заблокированы.

Оказалось, что взлом LLM настолько прост, что с ним могут справится даже обычные пользователи, а не только специалисты в области кибербезопасности. Именно поэтому инженерная ассоциация из США — Институт инженеров электротехники и электроники (IEEE) — выразила серьёзные опасения после публикации новых исследований, которые показали, что аналогичным образом можно взломать и роботов, управляемых искусственным интеллектом. Учёные доказали, что кибератаки такого рода способны, например, заставить самоуправляемые транспортные средства целенаправленно сбивать пешеходов.

Среди уязвимых устройств оказались не только концептуальные разработки, но и широко известные. Например, роботы Figure, недавно продемонстрированные на заводе BMW, или роботы-собаки Spot от Boston Dynamics. Эти устройства используют технологии, аналогичные ChatGPT, и могут быть обмануты через определённые запросы, приведя к действиям, полностью противоречащим их изначальному назначению.

В ходе эксперимента исследователи атаковали три системы: робота Unitree Go2, автономный транспорт Clearpath Robotics Jackal и симулятор беспилотного автомобиля NVIDIA Dolphins LLM. Для взлома использовался инструмент, который автоматизировал процесс создания вредоносных текстовых запросов. Результат оказался пугающим — все три системы были успешно взломаны за несколько дней со 100-% эффективностью.

В своём исследовании IEEE приводит также цитату учёных из Университета Пенсильвании, которые отметили, что ИИ в ряде случаев не просто выполнял вредоносные команды, но и давал дополнительные рекомендации. Например, роботы, запрограммированные на поиск оружия, предлагали также использовать мебель как импровизированные средства для нанесения вреда людям. Эксперты подчёркивают, что, несмотря на впечатляющие возможности современных ИИ-моделей, они остаются лишь предсказательными механизмами без способности осознавать контекст или последствия своих действий. Именно поэтому контроль и ответственность за их использование должны оставаться в руках человека.

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Вечерний 3DNews
Каждый будний вечер мы рассылаем сводку новостей без белиберды и рекламы. Две минуты на чтение — и вы в курсе главных событий.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
Google интегрировала Gemini в линейку Galaxy S25 и научила ИИ работать в режиме многозадачности 2 ч.
VK Tech анонсировал изолированную облачную платформу Secure Cloud для госорганизаций и компаний с высокими требованиями к информационной безопасности 10 ч.
Нелинейное приключение Lost Records: Bloom & Rage задержится, но не целиком — новые подробности следующей игры от создателей Life is Strange 11 ч.
Воскресший российский экшен «Приключения капитана Блада» выйдет спустя более 20 лет разработки — дата релиза и новый трейлер 12 ч.
В дополнении с Конаном-варваром для Mortal Kombat 1 нашли секретного розового ниндзя по имени Флойд и новую арену 13 ч.
Adobe Premiere Pro теперь может находить видеоклипы по словесному описанию 15 ч.
В ChromeOS теперь можно управлять курсором с помощью мимики 15 ч.
«Круче этого ничего быть не может»: создатели Phantom Blade Zero поразили геймеров новым геймплеем 15 ч.
Microsoft присоединилась к облачному альянсу CISPE, который годами боролся с ней 18 ч.
Разработчики Torn Away анонсировали «Ларёк на улице Ленина» — симулятор первого в России магазинчика для гиков 19 ч.
Слабый спрос и перепроизводство в этом году будут подталкивать поставщиков NAND сокращать объёмы выпуска продукции 47 мин.
Операционная прибыль SK hynix взлетела в 23 раза и впервые позволила обойти Samsung 2 ч.
Новое защитное стекло Gorilla Armor 2 смартфона Samsung Galaxy S25 Ultra выдерживает падение с высоты до 2,2 метра на бетон 3 ч.
Qualcomm и Samsung объяснили разницу между Snapdragon 8 Elite for Galaxy в составе Galaxy S25 и обычным процессором 3 ч.
Fujitsu представила самый лёгкий в мире 14-дюймовый ноутбук с Copilot Plus на Intel Lunar Lake 5 ч.
AMD объяснила решение отложить запуск серии видеокарт Radeon RX 9070 до марта 5 ч.
Старая игровая мышь Gigabyte чуть не сожгла дом пользователя 9 ч.
Европа зачастит на Марс: два ровера ЕКА отправятся на Красную планету в следующие 10 лет 10 ч.
Samsung S Pen стал заурядным стилусом в Galaxy S25 Ultra — функции «волшебной палочки» Air action больше нет 10 ч.
Samsung объявила о разработке очков дополненной реальности вместе с Google 11 ч.