Сегодня 18 сентября 2024
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

Исследователь продемонстрировал обход защиты Microsoft Copilot

На конференции Black Hat USA исследователь в области кибербезопасности Майкл Баргури (Michael Bargury) продемонстрировал уязвимости помощника с искусственным интеллектом Microsoft Copilot — потенциальные злоумышленники могут использовать его для кибератак. Его проект указывает, что организациям стоит пересмотреть политики безопасности при использовании ИИ-технологий, включая Copilot.

 Источник изображения: Ivana Tomášková / pixabay.com

Источник изображения: Ivana Tomášková / pixabay.com

Баргури выделил несколько методов, с помощью которых злоумышленники могут использовать Microsoft Copilot при осуществлении кибератак. Плагины Copilot, в частности, позволяют устанавливать бэкдоры, эксплуатируемые при работе других пользователей с ИИ, а также служат подспорьем при осуществлении атак, при которых задействуются методы социальной инженерии.

Используя метод инъекций в запросах, хакер изменяет ответы ИИ в соответствии со своими целями — это позволяет производить скрытный поиск и извлечение данных в обход стандартных мер защиты файлов и информации. ИИ также оказывается эффективным оружием в атаках с применением методов социальной инженерии — Copilot можно использовать при создании убедительных фишинговых писем и подготовке других методов взаимодействия с потенциальными жертвами, у которых киберпреступник пытается получить конфиденциальную информацию.

Чтобы наглядно продемонстрировать эти уязвимости, Баргури создал инструмент LOLCopilot — он предназначается для этичных хакеров и работает в любом клиенте с поддержкой Microsoft 365 Copilot, используя конфигурации по умолчанию. Специалисты по кибербезопасности могут с его помощью исследовать сценарии эксплуатации уязвимостей Copilot для кражи данных и организации фишинговых атак.

Разработчик указывает, что существующие настройки безопасности Microsoft Copilot по умолчанию недостаточно эффективны для предотвращения этих атак. Наличие инструмента для получения доступа и обработки больших объёмов данных свидетельствует о риске, с которым сопряжена работа систем ИИ. Исследователь рекомендует внедрять дополнительные меры защиты, в том числе многофакторную авторизацию и строгий контроль доступа к данным. Кроме того, необходимо информировать сотрудников о связанных с ИИ рисках и иметь комплексные протоколы реагирования на инциденты.

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Вечерний 3DNews
Каждый будний вечер мы рассылаем сводку новостей без белиберды и рекламы. Две минуты на чтение — и вы в курсе главных событий.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
Пользователи по всему миру жалуются на проблемы с доступом к сайтам из-за сбоя у Cloudflare 51 мин.
Еженедельный чарт Steam: в топ-10 вернулись Ghost of Tsushima, Satisfactory и сразу три гоночных хита 2 ч.
Electronic Arts впервые подтвердила продолжение Star Wars Jedi: Survivor — третья часть станет «заключительной главой» 2 ч.
«Заставит вновь почувствовать себя ребёнком»: The Plucky Squire вышла в российском Steam и очаровала критиков 3 ч.
Electronic Arts передумала выпускать The Sims 5 — что ждёт серию в будущем 5 ч.
Google поможет отличать настоящие изображения от подделок ИИ 7 ч.
Rockstar отметила 11-летие GTA V добавлением в GTA Online нового античита на ПК 8 ч.
Instagram усилил родительский контроль, введя ограничения с помощью Teen Accounts 9 ч.
Банк России и Минфин проведут эксперимент по международным расчётам в криптовалюте 9 ч.
Мультфильм The Witcher: Sirens of the Deep со звездой «Ведьмаков» от CD Projekt Red выйдет позже обещанного — утечка раскрыла точную дату релиза 11 ч.
Neuralink анонсировала имплант Blindsight, который вернёт зрение даже слепым от рождения 32 мин.
Новая статья: Обзор видеокарты Acer Predator BiFrost Intel Arc A750 OC: конкурентоспособная производительность, высокое энергопотребление 2 ч.
SpaceX грозит штраф из-за нетерпеливости Илона Маска 2 ч.
Швейцария ввела в эксплуатацию гибридный суперкомпьютер Alps: 11 тыс. NVIDIA GH200, 2 тыс. AMD EPYC Rome и щепотка A100, MI250X и MI300A 3 ч.
Объявленный Intel план реструктуризации ставит под сомнение будущее ускорителей Falcon Shores 5 ч.
Китайские учёные научились засекать дроны и самолёты-невидимки по помехам в сети Starlink 5 ч.
Дроны скоро начнут перевозить человеческую кровь между больницами в Лондоне 5 ч.
Koss представила беспроводные наушники Porta Pro Wireless с легендарным дизайном 40-летних Porta Pro 6 ч.
Micron представила полноразмерные SSD Crucial P310 — до 2 Тбайт и до 7100 Мбайт/с 6 ч.
AOC представила четыре 27-дюймовых изогнутых монитора серии G4  — до QHD и до 280 Гц 6 ч.