Сегодня 02 сентября 2025
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

Учёные разработали ИИ-чат-бот, который эффективно взламывает других ИИ-чат-ботов

Учёные-компьютерщики из Наньянского технологического университета (NTU, Сингапур) нашли эффективный способ взлома чат-ботов с искусственным интеллектом (ИИ). Для этого они обучают ИИ-чат-бот созданию подсказок, которые позволяют обходить защиту других чат-ботов на базе ИИ.

 Источник изображения: NTU

Источник изображения: NTU

Сингапурские исследователи использовали двойной метод взлома большой языковой модели (LLM), получивший название Masterkey. Во-первых, они провели реверс-инжиниринг того, как LLM выявляют вредоносные запросы и защищаются от них. Используя эту информацию, они научили LLM автоматически учиться и предлагать подсказки, которые позволяют обходить защиту других LLM. Таким образом можно создать LLM для взлома, которая сможет автоматически адаптироваться к новым условиям и создавать новые запросы для взлома после того, как разработчики внесут исправления в свои LLM.

После проведения серии тестов на LLM в качестве доказательства, что этот метод действительно представляет реальную угрозу, исследователи сразу же известили о выявленных проблемах провайдеров сервисов после успешного взлома их ИИ-моделей.

Разработка учёных NTU должна помочь компаниям определить слабые стороны и ограничения своих ИИ-чат-ботов, чтобы принять меры по их защите от хакеров.

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
7 из 10 человек теперь заходят в интернет через Google Chrome — Edge и Safari сильно отстают 2 мин.
YouTube начал блокировать семейные Premium-подписки, если их участники не живут вместе 6 мин.
Capcom объяснила резкое падение продаж Monster Hunter Wilds дороговизной PS5 19 мин.
В стандартной клавиатуре для Android появилась настройка размера шрифта 56 мин.
«Абсолютная ложь»: Google прокомментировала слухи о серьёзной дыре в безопасности Gmail 57 мин.
Неудачные соблазнения, похороны и разводы: Paradox раскрыла статистику игроков Crusader Kings 3 за последний год 2 ч.
Google обновит аккаунты в Play Games — они станут похожими на профили в Steam 2 ч.
«Сделано ИИ»: DeepSeek добавила обязательную маркировку ИИ-контента и запретила её удалять 3 ч.
«Рэйман в надёжных руках»: Ubisoft обратилась к игрокам по случаю 30-летия Rayman 3 ч.
MWS Cloud в 1,5 раза увеличила мощности GPU-облака для искусственного интеллекта 13 ч.