Офис национального директора по кибербезопасности (ONCD) Белого дома США призвал разработчиков отказаться от использования языков программирования C и C++ в разработке критически важного ПО. Этот совет основывается на опасениях, связанных с безопасностью управления памятью — аспекте, играющем критическую роль в предотвращении уязвимостей, таких как переполнение буфера и висячие указатели.

Источник изображения: xusenru / Pixabay

Неправильное управление памятью в программном коде может привести к серьёзным уязвимостям, позволяя злоумышленникам осуществлять кибератаки. Языки программирования, такие как Java, благодаря своим механизмам обнаружения ошибок во время выполнения, считаются безопасными в отношении управления памятью. В отличие от них, C и C++ позволяют разработчикам выполнять операции с указателями и обращаться непосредственно к адресам в памяти компьютера. Это включает в себя чтение и запись данных в любом месте памяти, к которому они могут получить доступ через указатель.

Однако эти языки не проводят автоматической проверки на то, выходят ли эти операции за пределы выделенного для данных или структур пространства в памяти. Такая проверка называется «проверкой границ». Отсутствие такой проверки означает, что программист может случайно или намеренно записать данные за пределы выделенного блока памяти, что может привести к перезаписи других данных, испорченным данным или, в худшем случае, к уязвимостям безопасности, которые злоумышленники могут использовать для выполнения вредоносного кода или получения контроля над системой.

Отчёт ONCD подчёркивает, что около 70 % всех уязвимостей в системе безопасности, выявленных инженерами Microsoft в 2019 году и Google в 2020 году, были связаны именно с нарушениями безопасности памяти. Эта статистика ясно демонстрирует необходимость переосмысления подходов к разработке ПО в контексте нынешней стратегии кибербезопасности США.

В отчёте не только указывается на проблемы с C и C++, но и предлагается ряд альтернатив — языков программирования, признанных «безопасными для памяти». Среди рекомендованных Агентством национальной безопасности (NSA) языков находятся: Rust, Go, C#, Java, Swift, JavaScript и Ruby. Эти языки включают в себя механизмы, предотвращающие распространённые типы атак на память, тем самым повышая безопасность разрабатываемых систем.

Индекс TIOBE на февраль 2024 года (источник изображения: tiobe.com)

Анализ популярности языков программирования по версии индекса TIOBE показывает, что из предложенных NSA языков C# занимает пятое место по популярности, Java — четвёртое, JavaScript — шестое, а Go — восьмое. Эти данные указывают на то, что часть рекомендуемых языков уже имеет широкое распространение и признание в профессиональном сообществе разработчиков.

Инициатива Белого дома выходит за рамки простого перечисления рекомендаций. Она включает в себя стратегический план по укреплению кибербезопасности на национальном уровне, что отражено в исполнительном приказе президента Джо Байдена (Joe Biden) от марта 2023 года. Этот документ задаёт направление для всестороннего сотрудничества между государственным сектором, технологическими компаниями и общественностью в целях разработки и внедрения безопасного ПО и аппаратных решений.

Заключение отчёта ONCD призывает к сознательному выбору языков программирования с учётом их способности обеспечивать безопасное управление памятью. Это не только техническое руководство для разработчиков, но и стратегическое направление для организаций, занимающихся разработкой критически важного ПО. Переход на использование языков программирования, гарантирующих безопасность памяти, может существенно снизить риск возникновения уязвимостей, повысить надёжность и безопасность цифровой инфраструктуры.

Восемь технологических компаний, в том числе Adobe, IBM, NVIDIA, Palantir, Salesforce и Stability, взяли на себя добровольное обязательство перед Белым домом по разработке систем искусственного интеллекта в рамках этических норм; ранее аналогичное обязательство взяли на себя ещё семь крупных разработчиков. Это поможет снизить риски, связанные с ИИ. Параллельно вашингтонские политики обсуждают принципы регулирования данных технологий.

Источник изображения: David Mark / pixabay.com

К настоящему моменту 15 наиболее влиятельных компаний США добровольно взяли на себя обязательства, связанные с разработкой систем ИИ. Они включают в себя построение технологии для идентификации изображений, созданных искусственным интеллектом, и обязательство делиться данными, касающимися безопасности систем ИИ, с правительством и учёными.

Тем временем в Конгрессе ведётся работа, направленная на создание норм регулирования ИИ. Уже завтра лидер сенатского большинства Чарльз Шумер (Charles E. Schumer) проведёт посвящённую этому вопросу встречу с главой Tesla Илоном Маском (Elon Musk), главой Meta✴ Марком Цукербергом (Mark Zuckerberg), а также другими представителями технологической отрасли и правозащитниками. А уже сегодня руководитель аппарата Белого дома Джефф Зинтс (Jeff Zients) встретится с представителями Adobe и других компаний для обсуждения преимуществ и рисков ИИ.

Взятые компаниями на себя обязательства распространяются на следующие системы, разрабатываемые этими компаниями — текущие проекты будут доведены в исходном виде.

Правительство США инициирует консультации с представителями общественности по внедрению искусственного интеллекта в государственных учреждениях. Об этом заявили в Административно-бюджетном управлении при администрации президента США.

Источник изображения: David Mark / pixabay.com

Предметом обсуждений станет «проект политики использования систем ИИ правительством США». В ведомстве отметили, что ИИ является одной из мощнейших современных технологий, однако её полномасштабное применение возможно только при условии минимизации связанных с ней рисков — инновации должны носить ответственный характер. Предварительную версию «Политики» опубликуют предстоящим летом, и у представителей общественности будет возможность обсудить документ, прежде чем власти примут конкретные меры.

В ведомстве также заявили, что программа будет реализовываться при содействии ведущих разработчиков ИИ-систем, в том числе Anthropic, Google, Hugging Face, Microsoft, NVIDIA, OpenAI и Stability AI — их проекты также подлежат общественной оценке на предмет соответствия принципам ответственных инноваций. Накануне Национальный научный фонд США также объявил о выделении $140 млн на открытие в стране семи Национальных исследовательских институтов искусственного интеллекта.

Белый дом накануне установил 30-дневный срок, в течение которого китайское приложение TikTok должно быть удалено с устройств и систем, принадлежащий федеральным правительственным ведомствам США. Соответствующий меморандум подписала директор Административно-бюджетного управления (входит в администрацию президента США) Шаланда Янг (Shalanda Young), передаёт Reuters.

Источник изображения: antonbe / pixabay.com

Документ подготовлен на основании решения Конгресса США, принятого в конце прошлого года — парламент дал администрации президента 60 дней на подготовку необходимых распоряжений. Аналогичные решения были приняты большинством американских штатов, ЕС, Канадой и Тайванем. Приложение на своих устройствах также запретили некоторые правительственные учреждения в США: Министерство обороны, Министерство внутренней безопасности и Государственный департамент.

Мера напрямую затрагивает лишь небольшую долю из 100-миллионной американской аудитории TikTok, но она может способствовать полной блокировке приложения в стране. Администрация TikTok тем временем продолжает отрицать, что приложение осуществляет систематическую слежку за пользователями, включая американцев, а все опасения связывает с развёрнутой против сервиса дезинформационной кампанией.

Запрет на использование TikTok не распространяется на отдельные виды деятельности, осуществляемые федеральными ведомствами США: мероприятия в области национальной безопасности, работу правоохранительных органов и исследования в области кибербезопасности. При этом руководства соответствующих ведомств должны выдавать отдельные разрешения на такую деятельность, а «абсолютные исключения, применяемые к ведомствам в целом, не допускаются». Сегодня Комитет Палаты представителей США по иностранным делам должен проголосовать за законопроект, который даст право президенту США запретить использование TikTok на всех устройствах в стране.

Белый дом предлагает принять необязательный Билль о правах искусственного интеллекта (ИИ), который, по его словам, поможет родителям, пациентам и работникам предотвратить вред от растущего использования автоматизации в образовании, здравоохранении и сфере трудоустройства.

Источник изображения: REUTERS/Kevin Lamarque

В предложении Белого дома говорится, что каждый житель Америки должен быть защищён от небезопасных или неэффективных информационных систем, дискриминации со стороны алгоритмов и неправомерного сбора данных. Американские граждане также должны иметь право на уведомление и разъяснение в отношении программ ИИ, с которыми они работают.

Эта инициатива от администрации Байдена продиктована недавними случаями, когда алгоритмы для оказания медицинской помощи не уделяли приоритетного внимания потребностям темнокожих пациентов, а система распознавания лиц использовалась для охраны порядка в школах, несмотря на то что она может быть недостаточно эффективна в отношении людей с темным цветом кожи.

«Неконтролируемое использование этих технологий способно нанести реальный вред жизни американцев, вред, который противоречит нашим основным демократическим ценностям, включая фундаментальное право на частную жизнь, свободу от дискриминации и свободу личности», — заявил журналистам высокопоставленный представитель администрации.

В рамках необязательного Билля, Белый дом предлагает множество рекомендаций, которым разработчики и пользователи программного обеспечения ИИ должны следовать на добровольной основе, чтобы предотвратить несправедливое ущемление людей. Кроме этого, администрация также просит компании, правительственные агентства и другие организации, внедряющие ИИ, проводить тщательное всестороннее тестирование и надзор за используемым ПО.

Некоторые американские компании уже ввели в частном порядке подобные этические гарантии в свою практику. В этом же направлении движется и Европейский Союз, который в ближайшее время собирается принять закон об ответственности за вред, нанесённый технологиями с использованием ИИ.

Торгово-промышленная палата США предупредила, что предложения Белого Дома, которые сейчас не имеют обязательной силы, могут навредить американскому бизнесу, если станут законом. «В документе администрации президента есть некоторые рекомендации, которые, в случае принятия их в виде закона, могут ограничить способность Америки конкурировать на мировой арене», — говорится в заявлении представителя Палаты Джордана Креншоу (Jordan Crenshaw).