Сегодня 06 октября 2025
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

Google представила ИИ-агента CodeMender — он самостоятельно устраняет уязвимости ПО

Лаборатория Google DeepMind опубликовала результаты работы агента на базе искусственного интеллекта CodeMender. Агент может в автономном режиме выявлять, исправлять и переписывать уязвимый код для предотвращения будущих эксплойтов в программном обеспечении.

 Источник изображения: Google

Источник изображения: Google

Как пишет издание SiliconANGLE, CodeMender развивает предыдущие проекты DeepMind по поиску уязвимостей, в частности проект OSS-Fuzz для анализа безопасности открытого ПО и систему Big Sleep, сочетая интеллектуальные возможности моделей Gemini с передовыми методами программного анализа. Основной целью проекта является автономная отладка и исправление сложных ошибок в крупномасштабных кодовых базах.

Несмотря на то что проект находится на стадии исследований, CodeMender уже отправил 72 исправления безопасности в проекты с открытым исходным кодом, включая те, объём которых превышает 4,5 миллиона строк кода. По данным компании, ИИ-агент позволяет разработчикам сосредоточиться на создании качественного программного обеспечения, автоматически генерируя и применяя надёжные патчи безопасности.

Система спроектирована как для реактивной, так и для проактивной работы: она не только мгновенно исправляет обнаруженные уязвимости, но и переписывает существующий код, устраняя целые классы ошибок. В качестве примера исследователи DeepMind приводят работу агента с библиотекой сжатия изображений libwebp, которая была использована в атаке на iOS в 2023 году. Агент применил к ней аннотации -fbounds-safety, после чего, по заявлению исследователей, подобные уязвимости переполнения буфера стали «невозможными для эксплуатации навсегда».

Внутренняя архитектура CodeMender включает набор инструментов: статический и динамический анализ, фаззинг, символьное исполнение и так называемого «судью LLM», который проверяет, сохраняют ли предлагаемые изменения исходную функциональность. Система способна к самокоррекции, если в процессе проверки обнаруживается проблема. Все изменения перед отправкой проходят проверку на корректность, соответствие стилевым стандартам и отсутствие регрессий. При этом в DeepMind подчёркивают, что CodeMender пока остаётся исследовательским проектом, и все патчи, сгенерированные им, проходят проверку исследователями-людьми перед отправкой в проекты.

После запуска инструмент будет предлагать иной подход по сравнению с традиционными методами, такими как статический анализ и фаззинг, которые находят уязвимости, но всё ещё сильно зависят от опыта проверяющего человека. Новый подход изменит систему, в которой искусственный интеллект сможет самостоятельно выявлять и устранять ошибки, что является критически важным шагом по мере экспоненциального роста размера и сложности современных кодовых баз.

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
Календарь релизов — 6–12 октября: Battlefield 6, Little Nightmares 3, 2XKO и Dying Breed 19 мин.
Анонсирован ремастер культового квеста Broken Sword 2: The Smoking Mirror — спустя год после выхода обновлённой первой части 53 мин.
Адский ритм-шутер Metal: Hellsinger останется последней игрой The Outsiders — Funcom закрывает студию, но разработчики не сдаются 2 ч.
Google представила ИИ-агента CodeMender — он самостоятельно устраняет уязвимости ПО 2 ч.
Ubisoft анонсировала дату выхода «мясистого» бесплатного дополнения к Assassin's Creed Mirage — геймплей и подробности Valley of Memory 3 ч.
Эпично сломал Gemini? Теперь за это можно получить $20 000 от Google 4 ч.
Регулятор выдал возрастной рейтинг Aliens: Fireteam Elite 2 до официального анонса — кооперативный шутер во вселенной «Чужого» получит сиквел 4 ч.
Во Франции запустили расследование возможной прослушки пользователей Apple через Siri 5 ч.
Рокерский экшен Devil Jam в духе Vampire Survivors отправится в адское турне по Steam уже совсем скоро — дата выхода и новый геймплейный трейлер 5 ч.
OpenAI дала пользователям больше контроля над их ИИ-двойниками в Sora 8 ч.