Сегодня 20 ноября 2026
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

Google подготовила Chrome к внедрению ИИ-агентов — и объяснила, как защитит их от взлома и мошенников

Компания Google подробно описала свой подход к обеспечению безопасности пользователей в Chrome в связи с планами вскоре добавить в браузер агентские функции, анонсированные в сентябре.

 Источник изображений: Google

Источник изображений: Google

Использование в браузере агентских функций, способных выполнять действия от имени пользователя, например бронировать билеты или совершать покупки, обеспечивает определённые удобства, но также сопряжено с рисками безопасности, которые могут привести к потере данных или денег.

Google отметила, что основная новая угроза, исходящая от злоумышленников для агентских браузеров, — это «непрямое внедрение подсказок» с целью «заставить агента выполнить нежелательные действия, такие как инициирование финансовых транзакций или кража конфиденциальных данных». Атака может «появляться на вредоносных сайтах, в стороннем контенте в iframe или в пользовательском контенте, например в отзывах».

Для контроля действий ИИ-агентов используется несколько моделей. Google создала модель User Alignment Critic на основе Gemini для тщательной проверки действий, сформированных моделью-планировщиком для конкретной задачи. Она «запускается после завершения планирования для повторной проверки каждого предложенного действия» и его одобрения или отклонения. Если запланированные задачи не отвечают целям пользователя, она просит модель-планировщик пересмотреть стратегию. Google отметила, что модель User Alignment Critic видит только метаданные предлагаемого действия, а не какой-либо неотфильтрованный, недостоверный веб-контент, что гарантирует невозможность его прямого заражения из интернета.

Чтобы предотвратить доступ агентов к запрещённым или ненадёжным сайтам, Google использует наборы источников Agent Origin Sets, которые ограничивают доступ модели к источникам только для чтения и к источникам, доступным для чтения и записи. В первом случае это данные, из которых Gemini разрешено получать контент. Например, на сайте интернет-магазина листинги подходят для решения задачи, а рекламные баннеры — нет. Аналогичным образом агенту разрешено кликать или вводить текст только в определённых iframe страницы.

«Такое разграничение гарантирует, что агенту доступны только данные из ограниченного набора источников, и эти данные могут быть переданы только на источники, доступные для записи. Это ограничивает вектор угрозы кросс-источниковых утечек данных. Это также даёт браузеру возможность применять часть этого разделения, например, даже не отправляя модели данные, находящиеся за пределами набора, доступного для чтения», — пояснила Google в блоге.

С помощью ещё одной модели — Observe — компания также контролирует навигацию по страницам, анализируя URL-адреса, что позволяет предотвратить переход на вредоносные URL, сгенерированные моделью.

При этом пользователи могут контролировать процесс: Gemini в Chrome «подробно описывает каждый шаг в рабочем журнале» с возможностью остановки и перехвата управления в любой момент.

Например, перед переходом на конфиденциальный сайт с такой информацией, как банковские или медицинские данные, агент запрашивает подтверждение пользователя. Для сайтов, требующих входа в систему, он запрашивает у пользователя разрешение на использование менеджера паролей Chrome (у агента нет прямого доступа к сохранённым паролям).

Также агент будет запрашивать подтверждение пользователя перед выполнением таких действий, как совершение покупки или отправка сообщения.

По словам компании, у неё также есть классификатор подсказок для предотвращения нежелательных действий, а также она тестирует возможности агентов по противодействию атакам, разработанным исследователями.

Было интересно? Скажите об этом Google, чтобы чаще получать ссылки на наши новости про искусственный интеллект

Источники:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
VK Play Cloud запустил консольный тариф с бесплатным доступом к GTA VI, но есть нюанс 2 ч.
Google создала параллельный интернет для обучения ИИ-агентов — в нём есть даже поддельные банки и соцсети 3 ч.
Развязка приключений Геральта задерживается: Netflix подтвердила перенос пятого сезона сериала «Ведьмак» 5 ч.
В экране блокировки Windows 11 обнаружена дыра, открывающая путь ко всем данным на ПК 6 ч.
Хакеры похитили данные более 1 млн банковских карт в 20 странах включая Россию 6 ч.
Инсайдер раскрыл, когда и где покажут многострадальный ремейк Star Wars: Knights of the Old Republic 7 ч.
«Ждал эту игру почти всю свою жизнь»: Creative Assembly заинтриговала фанатов целым часом нового геймплея Total War: Warhammer 40,000 8 ч.
Apple запустила разработку собственного ИИ-агента, который поселится в компьютерах Mac 9 ч.
Apple потеряла главного разработчика софта для камеры iPhone 9 ч.
Хакер Cyberleek «слил» в открытый доступ почти рабочую сборку GTA VI для Xbox, и это только начало 10 ч.
Флагманы превращаются в предмет роскоши: дефицит памяти взвинтил цены смартфонов более чем на 30 % 7 мин.
1250 Гц при разрешении 1440p: TCL показала прототип самого быстрого игрового монитора 27 мин.
Связь в России подорожает — операторам нужны средства на развитие и модернизацию 2 ч.
Акции AMD падают на фоне сообщений о связях компании с Китаем, способных привлечь внимание американских регуляторов 4 ч.
Huawei представила широкоэкранный, но не складывающийся смартфон OSTA O1 Pro 4 ч.
FADU представила первый в мире «файлово-семантический SSD» 4 ч.
SK hynix станет крупнейшим акционером собственного конкурента Kioxia — рынок NAND ждут перемены 4 ч.
Anthropic вошла в «клуб триллионеров» по итогам IPO, но простым инвесторам достались крохи 4 ч.
Акционеры подали иск против Supermicro, считая, что бывшая директор по развитию бизнеса знала о контрабанде чипов NVIDIA в КНР 5 ч.
Huawei представила первый «экспортный» ИИ-кластер на базе ускорителей Ascend 950DT 5 ч.