MWC 2018
2018
Computex
IFA 2018
OpenAI задействовала автоматизированную систему на базе искусственного интеллекта для комплексного аудита безопасности ядра Linux. Эксперимент, обошедшийся компании в $1,21 млн, помог выявить почти тысячу уязвимостей, позволяющих повысить привилегии, а также обнаружить совершенно новые методы обхода защиты.
Источник изображения: AltumCode / unsplash.com
Для проверки возможностей своих перспективных ИИ-моделей в сфере кибербезопасности OpenAI выбрала ядро Linux из-за его масштабов — исходный код операционной системы превышает 40 млн строк. Поскольку Linux управляет большей частью облачных серверов, суперкомпьютеров и всеми устройствами на Android, любые архитектурные бреши в нём угрожают безопасности миллиардов пользователей по всему миру.
OpenAI создала специальный пятиэтапный конвейер, который позволил полностью автоматизировать процесс проверки безопасности операционной системы. Он включал поиск уязвимостей, их динамическую проверку, оценку возможности эксплуатации, создание патчей, а также экспертный анализ специалистами-людьми.
Сначала ИИ-агенты за 12 часов отсканировали систему и выделили 2300 потенциально опасных участков кода. Затем OpenAI задействовала дополнительных агентов для создания прототипов эксплойтов и проверки каждого из выявленных случаев. Весь процесс занял 30 часов. Система успешно воспроизвела 1724 уязвимости (около 75 % от первоначального числа выявленных потенциальных проблем). При этом лишь 3 % из оставшихся результатов, по-видимому, стали следствием некорректного анализа со стороны модели.
На следующем этапе агенты ранжировали уязвимости по степени их воздействия, разработав 1169 рабочих эксплойтов для повышения привилегий в локальной системе, а также 291 концепт-доказательство, демонстрирующее возможность раскрытия информации. После исключения дубликатов и ложных срабатываний исследователи выделили 948 уникальных уязвимостей, связанных с повышением привилегий, и подготовили для них исправления.
В OpenAI сообщили, что перед обращением к разработчикам ядра Linux исследователи компании проверили все созданные эксплойты и патчи. Следуя рекомендациям сообщества Linux, команда расставила приоритеты для выявленных уязвимостей. Некоторые из них к настоящему моменту уже устранены. Работа над остальными продолжается.
«Мы предоставляем модели соответствующий исходный код и задаём инструкции, основанные на передовых методах написания патчей: выполнение статических проверок, соблюдение стандартов разработки, принятых в смежных участках кода, а также проведение анализа вариантов для обеспечения полноты исправления», — пояснили в OpenAI.
Не все обнаруженные уязвимости были «совершенно новыми». По данным OpenAI, к моменту завершения анализа разработчики Linux уже устранили 61 уязвимость, связанную с повышением привилегий, а для ещё 43 были подготовлены предварительные исправления. Кроме того, около 300 уязвимостей (примерно треть от общего числа) уже обсуждались в открытых источниках.
Помимо этого, команда изучила 166 методов эксплуатации и выявила 10 ранее не описанных подходов. К ним относятся манипуляции с памятью ядра, управление размещением страниц памяти (page grooming) и повышение привилегий с помощью атак, затрагивающих только данные (data-only attacks). В OpenAI решили не раскрывать подробности об этих уязвимостях до их устранения, чтобы не дать злоумышленникам преимущества.
Хотя усилия компании по поиску уязвимостей в Linux, безусловно, заслуживают похвалы, издание TechRadar усмотрело в публикации масштабного отчёта OpenAI «скрытый пиар». Обозреватели обращают внимание на то, что компания продемонстрировала выдающиеся результаты некой «грядущей ИИ-модели для кибербезопасности», противопоставив её по эффективности версии GPT-5.5-Cyber. Тем не менее практический результат эксперимента оказался неоспоримым. Автоматизация позволила в сжатые сроки провести колоссальный объём работы по защите открытого программного обеспечения, на который у аналитиков-людей ушли бы месяцы ручного труда.
Источник:
