ИИ научился находить уязвимости в ПО, но для их исправления всё ещё нужны люди

Модели искусственного интеллекта доказали, что могут эффективно находить уязвимости ПО и эксплуатировать их, но не исправлять. На эту особенность обратили внимание эксперты лаборатории Off-by-1 компании 1Password — изучив механизмы работы моделей OpenAI ChatGPT 5.5 и Anthropic Claude Opus 4.8, они обнаружили, что без участия человека ИИ способен устранять уязвимости в ПО только в одном из четырёх случаев.

Компьютер месяца, спецвыпуск: во что дефицит чипов памяти превратил бюджетные игровые ПК и при чем здесь Steam Machine

Снято в Голливуде? Почему Стэнли Кубрик физически не смог бы подделать лунную походку

Лучший процессор под DDR4 в 2026 году: AM4 против LGA 1700

10 флагманских процессоров Intel за 10 лет

Топ-10 смартфонов до 10 тысяч рублей (2026 год)

Сравнительный тест камер флагманских смартфонов (2026): итоги

Обзор смартфона Samsung Galaxy Z Flip8: исчезающий вид?

Выбираем лучшие игровые ноутбуки на российском рынке (вторая половина 2026 года)

Источник изображения: Fotis Fotopoulos / unsplash.com

«Для шести недавно обнаруженных уязвимостей мы выпустили 6080 патчей, используя две новейшие рассуждающие модели. Средний показатель успеха при создании патча, который полностью устраняет уязвимость (без существенного изменения поведения приложения), составил всего 26,0 %», — заявили исследователи. Из созданных ИИ патчей 20,1 % исправили исходную проблему, но изменили поведение приложения: например, логика «списка разрешённых» превратилась в логику «списка запрещённых»; в 2,3 % случаев при исправлении одной уязвимости возникла другая; в 49,3 % случаев ИИ не создал защиты ни от одного из вариантов эксплойта; а в 2,2 % случаев ИИ не только не исправил уязвимость, но и создал ещё один вариант для её эксплуатации.

Среди успешных патчей, даже если они изменяли поведение приложения, исправление уязвимости оказалось «хрупким»: конкретная уязвимость исчезала, но основную проблему решить не удавалось. Успех работы ИИ зависит от первоначальной установки — её требуется давать как ИИ, так и человеку, исправляющему уязвимость. Но если инструкции будут неверными, ИИ с большей вероятностью потерпит неудачу. Если запрос будет корректным, то ИИ справится с вероятностью 65 %; полное отсутствие запроса снижает вероятность успеха до 50,4 %, а некорректный запрос — до 15,2 %. У человека-разработчика при анализе уязвимого кода сохраняются высокие шансы выявить вводящую в заблуждение информацию.

В среднем создание корректного патча обходится всего в $6,74, включая затраты на неудачные попытки. Но при анализе затрат и выгод следует учитывать, какой объём экспертного надзора требуется, чтобы применение ИИ себя оправдывало.