ИИ-агент в Windows 11 сможет загружать вирусы, предупредила Microsoft

Microsoft опубликовала важное предупреждение о возможностях агентов искусственного интеллекта, которые скоро появятся в Windows 11 — пользователям рекомендуется включать эту функцию, только если они «осознают последствия для безопасности», и из-за вероятных угроз она будет по умолчанию отключена.

Microsoft намерена со временем превратить Windows 11 в ОС с расширенным присутствием агентов ИИ — не у всего сообщества пользователей инициатива находит поддержку, но компания упорно подвигает свою концепцию, и сейчас она на пороге развёртывания первых полноценных функций агентского ИИ на платформе. «Этот параметр может включить только администратор устройства, и после включения он будет доступен всем пользователям на нём, в том числе другим администраторам и обычным пользователям», — указывает компания.

Когда ИИ-агент активен, у него есть ограниченный доступ к папке профиля пользователя (C:\Users\username\), а также к стандартным папкам загрузок, документов, изображений, видео, музыки и рабочего стола. Но для работы он обращается к собственному новому рабочему пространству — у него собственная безопасная среда рабочего стола, но с доступом к ПО и файлам пользователя. Это сопряжено с определёнными рисками. «ИИ-приложения создают новые угрозы безопасности, такие как перекрёстное внедрение запросов (XPIA), при котором встроенное в пользовательский интерфейс или документы вредоносное содержимое может переопределять инструкции для агента, что приводит к ненамеренным действиям, в том числе краже данных или установке вредоносного ПО», — предупреждает Microsoft.

В связи с наличием такой опасности компания обозначила ряд принципов, которым намерена следовать при разработке агентов в Windows, в том числе обеспечение постоянной видимости ИИ-инструментов и обязательное одобрение пользователем любых принимаемых ИИ решений. «У агентов должна быть возможность создавать описывающие их действия журналы. Windows должна иметь возможность проверять эти действия с помощью журнала аудита, защищённого от несанкционированного доступа», — отмечает разработчик.

Первые предварительные сборки Windows 11 стали доступны для участников программы тестирования уже вчера, хотя приложения эту функцию пока не поддерживают. Скоро в агентском рабочем пространстве сможет действовать ИИ-помощник Copilot, а затем и другие ИИ-приложения.