Сегодня 01 октября 2025
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

ИИ-сводки в Gmail превратили в инструмент для фишинговых атак, но Google уже закрыла уязвимость

Специалисты по кибербезопасности, участвуя в программе Bug Bounty от Mozilla, обнаружили уязвимость в функции автоматического создания сводок переписок в Gmail с помощью искусственного интеллекта Gemini — она может быть использована для фишинговых атак. Злоумышленники способны внедрять в письма скрытые инструкции, заставляя ИИ формировать ложные предупреждения и вводить пользователей в заблуждение, сообщил PCMag.

 Источник изображения: Solen Feyissa/Unsplash

Источник изображения: Solen Feyissa/Unsplash

В рамках эксперимента исследователи показали, как с помощью невидимого текста — оформленного белым цветом и с нулевым размером шрифта — можно внедрить команды в тело письма. При этом пользователь не видит дополнительного содержимого, но ИИ считывает его и использует при формировании краткой сводки. В результате Gemini может добавить в неё ложное уведомление о взломе аккаунта и предложить позвонить на мошеннический номер якобы для восстановления доступа.

 Источник изображения: pcmag.com

Источник изображений: pcmag.com

Google подтвердила наличие проблемы, отметив, что уже внесла изменения, устраняющие уязвимость. Представители компании сообщили PCMag, что регулярно совершенствуют защиту своих моделей, включая их обучение противодействию вредоносным атакам, и заверили, что описанный метод не применялся хакерами в реальных атаках.

Ранее Google также публиковала материалы о борьбе с «инъекциями промптов» — способами злонамеренного воздействия на ИИ через скрытые пользовательские команды.

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
В Steam вышла демоверсия олдскульного боевика Marvel Cosmic Invasion от создателей Teenage Mutant Ninja Turtles: Shredder’s Revenge 50 мин.
На фоне очередного подорожания в Game Pass Ultimate добавили более 45 игр, включая Hogwarts Legacy — полный список новинок 2 ч.
ФИФА анонсировала первую FIFA после ухода Electronic Arts — это футбольная аркада FIFA Heroes для консолей и мобильных телефонов 4 ч.
Microsoft обновила иконки Office — они стали объёмнее и красочнее 4 ч.
«Тектонический сдвиг»: у Microsoft появится второй гендир — текущий сосредоточится на технических вопросах 4 ч.
«Любим вас больше, чем банкомат — деньги»: хоррор об ужасах долговой ямы CloverPit достиг новой вершины продаж 4 ч.
«Окей, Google, давай пообщаемся»: представлен ИИ-помощник Gemini for Home для умного дома 5 ч.
У Assassin's Creed, Far Cry и Rainbow Six теперь новый дом, которым частично владеет Tencent — Ubisoft представила Vantage Studios 6 ч.
Microsoft вывела Xbox Cloud Gaming из беты, подтянула графику до 1440p и повысила битрейт 6 ч.
Meta начнёт использовать чаты пользователей с ИИ, чтобы продавать ещё более персонализированную рекламу 6 ч.
iFixit разобрали совершенно неремонтопригодные AirPods Pro 3 и показали «пенные» амбушюры 51 мин.
В октябре Apple представит более пять новинок, но это не точно 2 ч.
Китай запустил самую мощную в мире центрифугу для экспериментов над пространством и временем 4 ч.
Apple приступила к разработке гарнитуры Vision Pro 2, подтвердила свежая утечка 5 ч.
Asus оценила GeForce RTX 5080 Hatsune Miku Edition в $1900 — на 90 % дороже рекомендованной цены 5 ч.
OpenAI построит ИИ ЦОД Stargate в Южной Корее, а Samsung поможет ей создать плавучие дата-центры 6 ч.
OpenAI объединится с Samsung и SK hynix, чтобы удовлетворить потребность в памяти для ИИ-мегапроекта Stargate 6 ч.
Oura представила керамические умные кольца Ring 4 за $499, зарядный футляр за $99 и медицинский сервис за $99 6 ч.
Сегодня в России отмечается День работников отрасли ЦОД 7 ч.
Selectel проведёт ежегодную флагманскую конференцию Selectel Tech Day 2025 в Москве 7 ч.