Сегодня 12 августа 2025
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

ИИ-сводки в Gmail превратили в инструмент для фишинговых атак, но Google уже закрыла уязвимость

Специалисты по кибербезопасности, участвуя в программе Bug Bounty от Mozilla, обнаружили уязвимость в функции автоматического создания сводок переписок в Gmail с помощью искусственного интеллекта Gemini — она может быть использована для фишинговых атак. Злоумышленники способны внедрять в письма скрытые инструкции, заставляя ИИ формировать ложные предупреждения и вводить пользователей в заблуждение, сообщил PCMag.

 Источник изображения: Solen Feyissa/Unsplash

Источник изображения: Solen Feyissa/Unsplash

В рамках эксперимента исследователи показали, как с помощью невидимого текста — оформленного белым цветом и с нулевым размером шрифта — можно внедрить команды в тело письма. При этом пользователь не видит дополнительного содержимого, но ИИ считывает его и использует при формировании краткой сводки. В результате Gemini может добавить в неё ложное уведомление о взломе аккаунта и предложить позвонить на мошеннический номер якобы для восстановления доступа.

 Источник изображения: pcmag.com

Источник изображений: pcmag.com

Google подтвердила наличие проблемы, отметив, что уже внесла изменения, устраняющие уязвимость. Представители компании сообщили PCMag, что регулярно совершенствуют защиту своих моделей, включая их обучение противодействию вредоносным атакам, и заверили, что описанный метод не применялся хакерами в реальных атаках.

Ранее Google также публиковала материалы о борьбе с «инъекциями промптов» — способами злонамеренного воздействия на ИИ через скрытые пользовательские команды.

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
Изучай, расширяй, эксплуатируй, уничтожай: в Steam стартовал фестиваль 4X-стратегий, а Endless Legend 2 получила временную демоверсию 9 ч.
У DeepSeek произошёл масштабный сбой — регистрация новых пользователей ограничена 9 ч.
Microsoft начала тестировать облачные ПК для аварийной замены обычных через Windows 365 9 ч.
Глава GitHub ушёл в отставку — компания перейдёт под прямое управление Microsoft 9 ч.
Календарь релизов — 11 – 17 августа: The Scouring, Echoes of the End и ремастер W40K: Dawn of War 14 ч.
Mortal Kombat 1 покорила новую вершину продаж и взяла курс на звание «самой сбалансированной» игры серии 14 ч.
«Займёт своё место в пантеоне "Цивилизаций"»: руководство Take-Two не потеряло веру в Sid Meier’s Civilization VII, несмотря на слабый старт продаж 15 ч.
Россияне пожаловались на массовые сбои при звонках в WhatsApp и Telegram 15 ч.
Бывший президент Blizzard предсказал, что Battlefield 6 «раздавит» Call of Duty: Black Ops 7, и все от этого выиграют 19 ч.
Создатели Delta Force анонсировали хоррор-шутер Crossfire: Rainbow — геймплейный трейлер и первые подробности 19 ч.
Дань в 15 % позволит Nvidia наладить поставки в Китай более продвинутых чипов с архитектурой Blackwell 3 ч.
Рекомендации для главы Intel от властей США будут направлены на следующей неделе 4 ч.
Новая статья: Обзор ноутбука Acer Swift Go 14 (SFG14-63-R7T4) с процессором Ryzen 9 8945HS и OLED-экраном 9 ч.
Биткоин приблизился к историческому максимуму, а Ethereum преодолел $4000 11 ч.
SpaceX запустила новую партию интернет-спутников Amazon Project Kuiper — теперь на орбите их 102 из более 3000 13 ч.
Nvidia представила крошечные видеокарты RTX Pro 4000 SFF и RTX Pro 2000 для профессионалов 13 ч.
Vivo показала свою первую MR-гарнитуру — она похожа на Apple Vision Pro, но гораздо удобнее 13 ч.
Apple выпустит MacBook стоимостью от $599 в следующем году, если слухи верны 13 ч.
Ford сделает электромобили дешевле — первым на платформе Universal EV станет пикап за $30 000 13 ч.
Hyundai потребовала $65 за устранение уязвимости в системе бесключевого доступа к электромобилю Ioniq 5 14 ч.