Сегодня 27 июня 2025
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

ИИ научились взламывать с помощью картинок с подвохом, невидимым для человека

Исследование американских учёных показало, что современные системы искусственного интеллекта, способные анализировать картинки, уязвимы для манипуляций при помощи альфа-канала в файлах изображений — набора данных, который отвечает за их прозрачность.

 Источник изображения: Google DeepMind / unsplash.com

Источник изображения: Google DeepMind / unsplash.com

Исследователи из Техасского университета в Сан-Антонио установили, что управляющий прозрачностью изображения альфа-канал зачастую игнорируется при создании средств анализа с ИИ. И он может стать средством для кибератак на системы в области медицины и автопилота. Чтобы подтвердить свой тезис, группа учёных под руководством доцента Гвиневры Чэнь (Guenevere Chen) разработала метод атаки AlphaDog, эксплуатирующий эту уязвимость в системах ИИ. Из-за альфа-канала люди и ИИ могут воспринимать изображения совершенно по-разному.

Учёные создали 6500 изображений и протестировали их на 100 моделях ИИ, включая 80 систем с открытым исходным кодом и 20 облачных платформ, таких как ChatGPT. Как показали испытания, схема AlphaDog особенно эффективна при атаках в областях изображений в оттенках серого. Уязвимости подвержены модели ИИ, лежащие в основе систем автопилота — альфа-канал позволяет манипулировать алгоритмами распознавания дорожных знаков, которые содержат фрагменты в оттенках серого. В результате дорожные знаки могут распознаваться неверно, и возникает угроза тяжёлых последствий.

Ещё один потенциальный объект атаки — системы медицинской визуализации, в которых ИИ помогает с постановкой диагноза. Здесь в оттенках серого часто представляются рентгеновские снимки, результаты МРТ и КТ, и ими тоже можно манипулировать с помощью AlphaDog, что грозит постановкой заведомо неверного диагноза. Наконец, предложенная учёными схема атаки эффективна против систем распознавания лиц — это может повлечь проблемы с конфиденциальностью людей и безопасностью охраняемых объектов. Авторы исследования поделились своими выводами с крупными технологическими компаниями, в том числе Google, Amazon и Microsoft, чтобы оказать помощь в устранении обнаруженных уязвимостей в системах ИИ.

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
Российские геймеры не смогли зайти в Steam в разгар распродажи 51 мин.
Microsoft выведет антивирусное ПО за пределы ядра Windows, кардинально изменив безопасность ОС 54 мин.
Google Assistant скоро уступит место на Android-устройствах нейросети Gemini 57 мин.
Новый крупный патч добавил в Warhammer 40,000: Space Marine 2 режим «Осада» с бесконечными волнами тиранидов и еретиков 8 ч.
ИИ-поиск добрался до YouTube — в выдаче появились сгенерированные ИИ рекомендации и тексты 9 ч.
Конец эпохи: Microsoft «похоронила» синий экран смерти в Windows 11 9 ч.
В Steam стартовала летняя распродажа с «морем скидок на игры всех жанров» 10 ч.
Легендарный сценарист Крис Авеллон присоединился к работе над амбициозной фэнтезийной RPG про борьбу с тоталитарным режимом 11 ч.
Продажи кооперативной игры Peak от авторов Content Warning и Another Crab's Treasure достигли новой вершины — два миллиона за девять дней 14 ч.
VK Tech представил Private Cloud Light — альтернативу зарубежным платформам виртуализации 15 ч.
Илон Маск уволил вице-президента Tesla по производству, которого называли его «правой рукой» 5 мин.
Фанаты Xbox 360 получили от Microsoft «мягкий» намёк о моральном устаревании своей консоли 40 мин.
В Китае стартовали продажи электрических кроссоверов Xiaomi YU7 по цене от $35 000 3 ч.
Новая статья: Обзор HUAWEI MatePad Pro 12.2’’ (2025): обновление планшета с лучшим экраном 8 ч.
«Аквариус» передал в залог структуре «Сбера» доли в двух компаниях 9 ч.
Xiaomi представила компактный планшет Redmi K Pad на флагманском процессоре по цене от $390 9 ч.
Хiaomi представила открытые наушники OpenWear Stereo Pro с пятью динамиками за $139 9 ч.
Китайская Loongson представила серверные процессоры 3C6000 — до 64 ядер и производительность Xeon четырёхлетней давности 9 ч.
Такого кризиса ещё не было: кадровый голод в производстве чипов достигнет миллиона специалистов к 2030 году 10 ч.
Xiaomi представила фитнес-браслет Smart Band 10 с автономностью до 21 дня и ценой от $37,5 10 ч.