Сегодня 27 сентября 2025
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

Исследователи использовали GPT-4 для автономного взлома сайтов —  вероятность успеха 53 %

Ранее в этом году исследователи установили, что нейросеть GPT-4 от компании OpenAI способна создавать эксплойты для уязвимостей, изучая информацию о них в интернете. Теперь же им удалось взломать более половины тестовых веб-сайтов с помощью автономных групп ботов на базе GPT-4, которые самостоятельно координировали свою работу и создавали новых ботов при необходимости.

 Источник изображения: newatlas.com

Источник изображения: newatlas.com

Отмечается, что боты в своей работе создавали эксплойты для уязвимостей нулевого дня, о которых не было известно ранее. В своей предыдущей работе исследователи задействовали GPT-4 для эксплуатации уже известных уязвимостей (CVE), исправления для которых ещё не были выпущены. В итоге они установили, что нейросеть смогла создать эксплойты для 87 % критических уязвимостей CVE, представляющих высокую опасность. Те же самые исследователи из Иллинойского университета в Урбане-Шампейне опубликовали результаты новой работы, в которой боты на основе нейросети пытались взломать тестовые сайты путём эксплуатации уязвимостей нулевого дня.

Вместо того, чтобы задействовать одного бота и нагружать его большим количеством сложных задач, исследователи использовали группу автономных, самораспространяющихся агентов на основе большой языковой модели (LLM). В своей работе агенты задействовали метод иерархического планирования, предполагающий выделение разных агентов под конкретные задачи. Одним из главных элементов стал «агента планирования», который контролировал весь процесс работы и запускал несколько «субагентов» для выполнения конкретных задач. Подобно взаимодействию между начальником и подчинёнными, «агент планирования» координирует свои действия с «управляющим агентом», который делегирует выполнение задач на «экспертных субагентов», тем самым равномерно распределяя нагрузку.

Исследователи сравнили эффективность такого подхода при взаимодействии группы ботов с 15 реальными уязвимостями. Оказалось, что метод иерархического планирования на 550 % более эффективен по сравнению с тем, как с аналогичными уязвимостями работает один бот на базе нейросети. Группа ботов сумела задействовать 8 из 15 уязвимостей, тогда как одиночный бот создал эксплойт только для трёх уязвимостей.

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
Apple разработала аналог ChatGPT — приложение Veritas для iPhone, но никому его не показывает 38 мин.
Electronic Arts готовится к выкупу за $50 миллиардов, чтобы стать частной компанией — это будет самая крупная подобная сделка в истории 5 ч.
Apple не увидела проблемы в рекламе ИИ-функций Siri, которые так и не появились 6 ч.
TikTok в США продолжит приносить китайской ByteDance миллиарды даже после отделения 10 ч.
В Steam скоро можно будет попробовать Valor Mortis — гибрид Dark Souls и BioShock от создателей Ghostrunner 10 ч.
Перевод на русский, новая концовка и попутчики: ностальгическое дорожное приключение Keep Driving получило крупное обновление 11 ч.
Футбольная аркада Rematch от разработчиков Sifu стала временно бесплатной, но только в Steam 12 ч.
Геймплейный трейлер раскрыл дату релиза Possessor(s) — стильного боевика от авторов Hyper Light Drifter 13 ч.
Семь из десяти российских компаний не окупили инвестиции в ИИ 14 ч.
Meta запустила в Великобритании рекламную модель, которую ЕС признал незаконной 14 ч.
Google создала и показала в деле ИИ, который заставляет роботов сначала думать, а потом делать 6 ч.
Asus отдаст видеокарту GeForce RTX 5090 ROG Astral с подписью Хуанга за лучший дизайн видеокарты 6 ч.
Новая статья: Обзор игрового 3D-монитора Samsung Odyssey 3D G90XF: полное погружение 7 ч.
Пожар в южнокорейском ЦОД привёл к отключения более 70 государственных онлайн-сервисов 7 ч.
На базе RISC-V в России пока активно развиваются только микроконтроллеры 8 ч.
Китай в прошлом году установил 300 000 промышленных роботов — больше, чем все остальные страны вместе 10 ч.
Xiaomi готовит новый процессор XRing для смартфонов, но за Apple гоняться пока не намерена 12 ч.
Qualcomm поделилась подробностями о процессоре Snapdragon 8 Gen 5 для доступных флагманов 12 ч.
Грядёт подорожание электроники — авария на крупном руднике взвинтила цены на медь 14 ч.
iPhone Air оказался почти никому не нужен в России 14 ч.