Армейские AR-шлемы несут опасность когнитивных атак, которые могут полностью выводить солдат из строя

Американское оборонное агентство DARPA подготовило тендер на разработку программы внутренней когнитивной безопасности (ICS — Intrinsic Cognitive Security). Она будет предназначена для защиты военных гарнитур смешанной реальности от кибератак, нацеленных непосредственно на органы чувств солдат.

Когнитивными атаками в ведомстве называют злонамеренные действия, «эксплуатирующие тесную связь между пользователем и оборудованием смешанной реальности». У них много общего с традиционными кибератаками, вызывающими техническую перегрузку ресурсов, интеграцию избыточных данных или сбои в работе сетевых компонентов. Только объектом когнитивной атаки является сам пользователь, и для её осуществления на экран гарнитуры смешанной реальности могут выводиться загромождающие обзор посторонние объекты, а также перехватываться данные системы отслеживания направления взгляда — своеобразный аналог кейлоггера. Таким образом оказавшаяся под атакой гарнитура выводит пользователю недостоверную информацию, либо вовсе провоцирует тошноту и прочие признаки недомогания, то есть может полностью вывести солдата из строя.

Бороться с подобными атаками в DARPA предлагают при помощи формальных методов. Система защиты должна «предоставить средства символического исследования цифрового пространства (при помощи аппаратного или программного обеспечения) и введения свойства правильности или безопасности, которое является истинным для всех возможных входящих данных». Для этого DARPA предлагает выстроить математические модели когнитивных механизмов «человеческого восприятия, действий, памяти и рассуждений» и на их основе установить, как создать некую форму универсальной защиты от когнитивных атак.

Опасения DARPA вполне обоснованы: в прошлом году по результатам испытаний военной версии гарнитуры смешанной реальности на базе Microsoft HoloLens было установлено, что за несколько часов она вызывает у военнослужащих головные боли, усталость глаз и тошноту. В новой версии гарнитуры эти проблемы исправлены, однако защита от атак нужна. Учитывая, что работа над программой DARPA ICS ещё не началась, участвующие в дальнейших испытаниях HoloLens американские военнослужащие пока не смогут рассчитывать на механизмы когнитивной защиты.