Сегодня 20 ноября 2026
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

ИИ-агент OpenClaw провалил тесты на фишинговые атаки

Исследователи в области кибербезопасности протестировали почтовый агент искусственного интеллекта OpenClaw, чтобы выяснить, настолько ли он наивен, чтобы попадаться на те же фишинговые уловки, что и обычные офисные сотрудники. Приложение «успешно» провалило эти тесты.

 Источник изображения: varonis.com

Источник изображения: varonis.com

Исследователи в области кибербезопасности из компании Varonis запустили в приложении OpenClaw ИИ-агента по имени Pinchy. Его подключили к почтовому ящику Gmail, к браузеру и к API Google Workspace. Соответствующую учётную запись они наполнили данными вымышленной компании, учётными данными AWS, базы данных, файлами экспорта CRM, внутренней перепиской и приглашениями календаря, после чего поставили Pinchy задачу отслеживать и обрабатывать входящие письма.

Чтобы имитировать реальную обстановку, они создали две конфигурации: общую со стандартными рабочими инструкциями и строгий режим, предупредив ИИ об угрозе фишинга и других мошеннических схем по электронной почте. Когда якобы злоумышленник выдал себя за руководителя отдела и запросил доступ к тестовой среде, Pinchy предоставил его. Когда злоумышленник запросил экспорт данных клиента, утверждая, что в удалённом режиме работает над презентацией, Pinchy выполнил и этот запрос.

Но когда ИИ-агенту отправили фишинговое письмо с подарочной картой и ссылкой, система определила страницу как вредоносную и заблокировала её. Отклонил он и попытку внедрить вредоносное приложение для взлома Google OAuth под видом платформы для учёта рабочего времени. Таким образом, ИИ хорошо распознаёт подозрительные URL-адреса и вредоносные приложения, но позволяет себя обмануть, когда требуется проверка личности или широкий контекст.

Эксперты Varonis раскритиковали Google за то, что Gemini показал «большую готовность к взаимодействию», а OpenAI GPT оказался более осторожен. Исследователи призвали разработчиков улучшить средства проверки личности у ИИ-агентов.

Было интересно? Скажите об этом Google, чтобы чаще получать ссылки на наши новости про искусственный интеллект

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
Google внедрила чаты с ИИ прямо на главную страницу поисковика 4 ч.
IPO превратило сотрудников Anthropic в мультимиллионеров — в среднем у каждого теперь более $44 млн 7 ч.
Россияне так ждали GTA VI, что начали массово арендовать PlayStation 5 — а заодно вызвали скачок интернет-трафика 7 ч.
ChatGPT научился расшифровывать речь в текст на лету без ограничения по времени 8 ч.
Новое ответвление Fallout отправит игроков разыскивать кошек в пустоши — подробности неанонсированной A Wasteland Full of Cats 9 ч.
Хакеры 10 дней атаковали системы Еврокомиссии с помощью ИИ — под угрозой личные данные чиновников 10 ч.
Студия-разработчик провальной MindsEye нашла способ выбраться из долговой ямы — засудить «диверсантов» 11 ч.
«Яндекс» заявил, что вернул доступ к 99,5 % файлов на «Диске» — оставшиеся ещё надеются спасти 12 ч.
В России создали мультиагентную систему «Радар» для автоматизации закупочных процессов 12 ч.
Более чем у половины банковских приложений из App Store и Google Play нашлись дыры в безопасности 13 ч.
Tesla представила твердотельные трансформаторы Powercore для ЦОД 2 ч.
Нобелевские лауреаты призвали не верить в посулы Anthropic — но инвесторы их не услышали 4 ч.
Intel Xeon 7 Diamond Rapids впервые показали вживую и даже запустили — но вскоре выключили из-за шума 5 ч.
Новая статья: Обзор блока питания GamerStorm PF800D V2 5 ч.
На AMD обрушили обвинения в рискованных ИИ-сделках и зависимости от Китая — акции рухнули почти на 9 % 6 ч.
Ещё один дефицит на подходе: мир накроет нехватка печатных плат, сопоставимая с чиповым кризисом 2021 года 6 ч.
Anthropic вышла на биржу и тут же стала дороже $2 трлн — рост превысил 30 % 6 ч.
Астрономы впервые наблюдали акт звёздного каннибализма в реальном времени: одна звезда поглотила другую 6 ч.
SSD наконец подешевеют? Аналитики предсказали избыток NAND-памяти и обвал цен уже в 2027 году 7 ч.
Google отправит ИИ-серверы в космос на ракете Безоса в 2029 году 8 ч.