Сегодня 22 сентября 2025
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

Учёные разработали ИИ-чат-бот, который эффективно взламывает других ИИ-чат-ботов

Учёные-компьютерщики из Наньянского технологического университета (NTU, Сингапур) нашли эффективный способ взлома чат-ботов с искусственным интеллектом (ИИ). Для этого они обучают ИИ-чат-бот созданию подсказок, которые позволяют обходить защиту других чат-ботов на базе ИИ.

 Источник изображения: NTU

Источник изображения: NTU

Сингапурские исследователи использовали двойной метод взлома большой языковой модели (LLM), получивший название Masterkey. Во-первых, они провели реверс-инжиниринг того, как LLM выявляют вредоносные запросы и защищаются от них. Используя эту информацию, они научили LLM автоматически учиться и предлагать подсказки, которые позволяют обходить защиту других LLM. Таким образом можно создать LLM для взлома, которая сможет автоматически адаптироваться к новым условиям и создавать новые запросы для взлома после того, как разработчики внесут исправления в свои LLM.

После проведения серии тестов на LLM в качестве доказательства, что этот метод действительно представляет реальную угрозу, исследователи сразу же известили о выявленных проблемах провайдеров сервисов после успешного взлома их ИИ-моделей.

Разработка учёных NTU должна помочь компаниям определить слабые стороны и ограничения своих ИИ-чат-ботов, чтобы принять меры по их защите от хакеров.

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
Konami поинтересовалась, ремейки каких Metal Gear фанаты хотят увидеть после Metal Gear Solid Delta: Snake Eater 40 мин.
Обновление Windows 11 сломало приложения для Blu-ray и цифрового ТВ 2 ч.
Майкл Делл, Ларри Эллисон и Лахлан Мёрдок войдут в группу покупателей американского сегмента TikTok 2 ч.
Журналисты проанализировали, почему всё меньше и меньше игр Xbox выходит на дисках 2 ч.
Навязчивые cookie-баннеры могут исчезнуть — в ЕС поняли, что они неэффективны 3 ч.
Календарь релизов — 22–28 сентября: Silent Hill f, Endless Legend 2 и Sonic Racing: CrossWorlds 3 ч.
«Это настоящая магия»: энтузиасты сделали браузерный порт GTA: Vice City и не знают, как его выпустить, чтобы «не нарушить чьи-либо права» 5 ч.
WhatsApp и Telegram стали популярнее в России, несмотря на блокировку звонков 6 ч.
Интересная, атмосферная и на удивление «боевитая»: критики вынесли вердикт Silent Hill f 6 ч.
Google Chrome для Android научился пересказывать веб-страницы в виде подкаста 8 ч.
Оперативная память подорожает: Samsung повысила цены на DRAM и мобильную NAND на 5–30 % 3 ч.
OpenYard представила российский GPU-сервер HN203I на базе Intel Xeon 6 4 ч.
Nokia привлекла топ-менеджеров Intel и HPE для перестройки компании 4 ч.
Vastarmor представила Radeon RX 9070 Alloy Pro и Alloy Pro White с термопрокладками с фазовым переходом 6 ч.
Обновление брандмауэра привело минимум к трём смертям — австралийский оператор Optus заблокировал звонки в экстренные службы 6 ч.
Китай построит гигантский ИИ-суперкомпьютер в ответ на американский мегапроект Stargate 6 ч.
У MediaTek появятся процессоры с маркировкой «Сделано в Америке» для избранных клиентов 6 ч.
ASRock представила видеокарты Intel Arc Pro B60 для рабочих станций с ИИ 7 ч.
MediaTek представила Dimensity 9500 — конкурент Apple A19 Pro и первый процессор на ядрах Arm C1 и частотой до 4,21 ГГц 8 ч.
Вышел GL.iNet Comet PoE — компактный IP-KVM с поддержкой PoE и возможностью монтажа в стойку 8 ч.