Сегодня 20 ноября 2026
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

ИИ-сводки в Gmail превратили в инструмент для фишинговых атак, но Google уже закрыла уязвимость

Специалисты по кибербезопасности, участвуя в программе Bug Bounty от Mozilla, обнаружили уязвимость в функции автоматического создания сводок переписок в Gmail с помощью искусственного интеллекта Gemini — она может быть использована для фишинговых атак. Злоумышленники способны внедрять в письма скрытые инструкции, заставляя ИИ формировать ложные предупреждения и вводить пользователей в заблуждение, сообщил PCMag.

 Источник изображения: Solen Feyissa/Unsplash

Источник изображения: Solen Feyissa/Unsplash

В рамках эксперимента исследователи показали, как с помощью невидимого текста — оформленного белым цветом и с нулевым размером шрифта — можно внедрить команды в тело письма. При этом пользователь не видит дополнительного содержимого, но ИИ считывает его и использует при формировании краткой сводки. В результате Gemini может добавить в неё ложное уведомление о взломе аккаунта и предложить позвонить на мошеннический номер якобы для восстановления доступа.

 Источник изображения: pcmag.com

Источник изображений: pcmag.com

Google подтвердила наличие проблемы, отметив, что уже внесла изменения, устраняющие уязвимость. Представители компании сообщили PCMag, что регулярно совершенствуют защиту своих моделей, включая их обучение противодействию вредоносным атакам, и заверили, что описанный метод не применялся хакерами в реальных атаках.

Ранее Google также публиковала материалы о борьбе с «инъекциями промптов» — способами злонамеренного воздействия на ИИ через скрытые пользовательские команды.

Было интересно? Скажите об этом Google, чтобы чаще получать ссылки на наши новости про искусственный интеллект

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
Развязка приключений Геральта задерживается: Netflix подтвердила перенос пятого сезона сериала «Ведьмак» 2 ч.
В экране блокировки Windows 11 обнаружена дыра, открывающая путь ко всем данным на ПК 3 ч.
Хакеры похитили данные более 1 млн банковских карт в 20 странах включая Россию 3 ч.
Инсайдер раскрыл, когда и где покажут многострадальный ремейк Star Wars: Knights of the Old Republic 4 ч.
«Ждал эту игру почти всю свою жизнь»: Creative Assembly заинтриговала фанатов целым часом нового геймплея Total War: Warhammer 40,000 5 ч.
Apple запустила разработку собственного ИИ-агента, который поселится в компьютерах Mac 5 ч.
Apple потеряла главного разработчика софта для камеры iPhone 6 ч.
Хакер Cyberleek «слил» в открытый доступ почти рабочую сборку GTA VI для Xbox, и это только начало 7 ч.
Google внедрила чаты с ИИ прямо на главную страницу поисковика 16 ч.
Ubisoft похвасталась вкладом Assassin’s Creed Black Flag Resynced в успехи компании и уволила ещё 166 человек 17 ч.
Американские акционеры решили засудить Alibaba из-за скандала с Хуангом 25 мин.
SK hynix станет крупнейшим акционером собственного конкурента Kioxia — рынок NAND ждут перемены 28 мин.
Anthropic вошла в «клуб триллионеров» по итогам IPO, но простым инвесторам достались крохи 29 мин.
Акционеры подали иск против Supermicro, считая, что бывшая директор по развитию бизнеса знала о контрабанде чипов NVIDIA в КНР 48 мин.
Huawei представила первый «экспортный» ИИ-кластер на базе ускорителей Ascend 950DT 59 мин.
DapuStor выпустила SSD серии R6 с СЖО: до 7,68 Тбайт в формате E1.S 2 ч.
Hammerspace представила All-Flash платформу хранения Data System на базе DPU Xsight Labs E1 2 ч.
Марс наносит ответный удар: ровер Perseverance потерял связь, а станция Mars Odyssey — управление ориентацией 2 ч.
Широкоэкранный складной смартфон Motorola Razr Flex показался на качественных изображениях 7 ч.
Округ Лаудон в «Аллее дата-центров» ввёл годовой мораторий на подачу заявок на строительство ЦОД и подстанций 7 ч.