Новости Hardware

DARPA призывает создать единый механизм защиты ИИ от обмана

Агентство перспективных исследований МО США объявило о запуске новой программы Guaranteeing AI Robustness against Deception (GARD). Программа «Гарантированная устойчивость ИИ к обману» призвана заткнуть дыру в безопасности систем с машинным обучением. Это не обязательно сознательный обман ИИ со стороны враждебно настроенных личностей или таких же ИИ-платформ. Система с машинным обучением может быть введена в заблуждение как несовершенством алгоритма обучения и принятия решений, так и вследствие изменения условий, в которых необходимо принимать решение. Цена ошибок может быть большой и даже неоценимой, если речь идёт об ИИ, которые вовлечены в процессы по обеспечению жизнедеятельности человека.

 DARPA

DARPA

В рамках программы GARD будут преследоваться три основные цели. Во-первых, создание фундаментальных теоретических обоснований защищающихся ML и соответствующей терминологии. Во-вторых, разработка и тестирование защищающихся систем в широком спектре назначения и настроек. В-третьих, построение испытательного стенда для представления защищающихся систем машинного обучения (ML) в сценариях различных угроз.

Работу по созданию защищающихся систем машинного обучения предполагается начать с защиты систем распознавания изображений. Например, подобные системы используются в самоуправляемых автомобилях, которые в случае ошибочной интерпретации дорожных знаков могут оказаться в аварийной ситуации. Затем от ошибок и введения в заблуждение будут избавлять обучающиеся системы с обработкой видео, аудио и более сложные ― с множеством разнообразных датчиков. Также будут проводиться работы для создания систем с умением предсказывать ситуации, принимать решения и адаптироваться к различным условиям в течение времени жизни системы.

Программа GARD не будет ограничена чисто математическими или аппаратными наработками в области искусственного интеллекта и машинного обучения. Будут рассматриваться также биологические механизмы защиты на примере работы иммунной системы. Природа научила живые организмы идентифицировать атаки, запоминать их и противодействовать угрозам. Почему бы ни применить подобные алгоритмы для защиты искусственного интеллекта?

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме
window-new
Soft
Hard
Тренды 🔥
В Госдуме предложили смягчить нормы о трансграничной передаче личной информации 16 мин.
Twitter передал Илону Маску дополнительные данные, ждём решения миллиардера по сделке 2 ч.
Новая статья: Teenage Mutant Ninja Turtles: Shredder’s Revenge — юные таланты. Рецензия 7 ч.
Экшен Fire Emblem Warriors: Three Hopes получил релизный трейлер и неплохие оценки в прессе 10 ч.
На горизонте замаячил пиратский флаг: проблемную Skull & Bones покажут в начале июля 11 ч.
Разработчики сборника Halo: The Master Chief Collection задумались над добавлением микротранзакций — фанаты против 11 ч.
Симулятор охоты Way of the Hunter с огромным открытым миром выйдет на ПК и консолях 16 августа 12 ч.
Кооперативному шутеру Deep Rock Galactic покорилась новая вершина продаж 12 ч.
Следующая игра FromSoftware уже почти готова, а в глубокой разработке находится ещё несколько 13 ч.
Треть российских компаний в ближайшее время перейдёт на отечественное ПО 13 ч.
Игровой смартфон ASUS ROG Phone 6 может получить тыльный дисплей и LED-индикатор 15 мин.
Фото дня: пилотируемый корабль «Орёл» и российская орбитальная станция 33 мин.
Большинство функций автопилота теперь доступны покупателям Tesla за доплату в $6000 35 мин.
Innosilicon разогнала память LPDDR5X до 10 000 Мбит/с — это даст 80 Гбайт/с пропускной способности 11 ч.
Cerebras Systems поставила рекорд в области машинного обучения для одиночных систем 12 ч.
Дата-центры стали заложниками новой европейской энергетической политики, а украинский конфликт только усилил проблемы 12 ч.
Инженерный образец Raptor Lake сравнили с флагманом Alder Lake на одной частоте — до 20 % быстрее в многопоточных тестах 13 ч.
Продажи электромобилей в России выросли на 65 %, но дальнейшие перспективы туманны 14 ч.
Полупроводниковый бум подходит к концу — отрасль показала спад впервые с начала 2020 года 14 ч.
SpaceX запустит спутниковый интернет Starlink в Грузии 14 ч.