Сегодня 06 октября 2025
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

Хакеры научились внедрять невидимые вредоносные запросы к ИИ в изображения

Атака с внедрением подсказок — это способ сделать инструкции для системы искусственного интеллекта невидимыми для оператора-человека. Исследователи из Trail of Bits обнаружили, что такие инструкции можно скрывать в изображениях, делая текст невидимым для человеческого глаза. При последующей загрузке изображения в систему ИИ и его сжатии нейросетью подсказка становится доступной для распознавания, расшифровывается и может быть выполнена — всё это абсолютно незаметно для человека.

 Источник изображения: unsplash.com

Источник изображения: unsplash.com

Инструменты ИИ сегодня популярны даже среди пользователей, не слишком разбирающихся в традиционном ПО или вопросах безопасности, и это открывает множество новых возможностей для хакеров. Исследовательская группа Trail of Bits показала способ скрывать атаки с внедрением подсказок, используя сжатие изображений при их загрузке в систему ИИ. Хорошая аналогия — скрытый фишинг в электронном письме, где текст окрашен тем же цветом, что и фон: человек его не заметит, а нейросеть прочитает и, возможно, выполнит.

В примере, представленном Trail of Bits, при загрузке изображения с внедрённой подсказкой в Gemini бэкенд Google сжимает его для экономии пропускной способности и вычислительных ресурсов. В результате скрытый текст становится видимым для нейросети, и подсказка успешно внедряется, например сообщая Gemini о необходимости передать данные из личного календаря пользователя третьей стороне.

 Источник изображения: Trail of Bits

Источник изображения: Trail of Bits

Безусловно, такой метод требует значительных усилий ради получения относительно небольшого объёма персональных данных, причём и сама атака, и изображение должны быть адаптированы под конкретную систему ИИ. Пока нет доказательств того, что метод активно используется злоумышленниками. Но это показательный пример того, как на первый взгляд безобидное действие может превратиться в вектор атаки.

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
Дефицит памяти типа NAND станет нормой в ближайшие десять лет, как считает глава Phison 28 мин.
Foxconn показала рекордную квартальную выручку на фоне бума ИИ-технологий 3 ч.
Новая статья: Компьютер месяца, спецвыпуск: 10 тезисов о том, как лучше собрать по-настоящему мощный игровой ПК 6 ч.
Meta построит ещё один «палаточный» ИИ ЦОД 8 ч.
BYD по итогам прошедших трёх кварталов этого года опережает Tesla на 388 000 проданных электромобилей 24 ч.
Глава OpenAI Сэм Альтман отправился в мировое турне с целью заключения новых контрактов 24 ч.
Apple прекратила называть Watch и Mac mini углеродно нейтральными изделиями из-за нового закона 05-10 06:00
Caviar представила спецверсии iPhone 17 Pro Victory Collection по цене от 629 000 рублей 04-10 17:53
Один из самых редких Intel Pentium 4 показался на фото 04-10 16:21
Разработчиков квантовых компьютеров заливают деньгами — их акции взлетели на 20 % за неделю 04-10 15:43