Сегодня 30 сентября 2025
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

ИИ научились взламывать с помощью картинок с подвохом, невидимым для человека

Исследование американских учёных показало, что современные системы искусственного интеллекта, способные анализировать картинки, уязвимы для манипуляций при помощи альфа-канала в файлах изображений — набора данных, который отвечает за их прозрачность.

 Источник изображения: Google DeepMind / unsplash.com

Источник изображения: Google DeepMind / unsplash.com

Исследователи из Техасского университета в Сан-Антонио установили, что управляющий прозрачностью изображения альфа-канал зачастую игнорируется при создании средств анализа с ИИ. И он может стать средством для кибератак на системы в области медицины и автопилота. Чтобы подтвердить свой тезис, группа учёных под руководством доцента Гвиневры Чэнь (Guenevere Chen) разработала метод атаки AlphaDog, эксплуатирующий эту уязвимость в системах ИИ. Из-за альфа-канала люди и ИИ могут воспринимать изображения совершенно по-разному.

Учёные создали 6500 изображений и протестировали их на 100 моделях ИИ, включая 80 систем с открытым исходным кодом и 20 облачных платформ, таких как ChatGPT. Как показали испытания, схема AlphaDog особенно эффективна при атаках в областях изображений в оттенках серого. Уязвимости подвержены модели ИИ, лежащие в основе систем автопилота — альфа-канал позволяет манипулировать алгоритмами распознавания дорожных знаков, которые содержат фрагменты в оттенках серого. В результате дорожные знаки могут распознаваться неверно, и возникает угроза тяжёлых последствий.

Ещё один потенциальный объект атаки — системы медицинской визуализации, в которых ИИ помогает с постановкой диагноза. Здесь в оттенках серого часто представляются рентгеновские снимки, результаты МРТ и КТ, и ими тоже можно манипулировать с помощью AlphaDog, что грозит постановкой заведомо неверного диагноза. Наконец, предложенная учёными схема атаки эффективна против систем распознавания лиц — это может повлечь проблемы с конфиденциальностью людей и безопасностью охраняемых объектов. Авторы исследования поделились своими выводами с крупными технологическими компаниями, в том числе Google, Amazon и Microsoft, чтобы оказать помощь в устранении обнаруженных уязвимостей в системах ИИ.

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
Вторая глава, повышение максимального уровня, отключаемый интерфейс и многое другое: для Titan Quest 2 вышло первое крупное обновление 26 мин.
Соавтор Disco Elysium устроит из анонса новой игры событие мирового масштаба — Summer Eternal готовит необычную презентацию Red Rooster 2 ч.
Российский суд оштрафовал Microsoft и Telegram на 3,5 млн рублей каждую, а Apple — на 7 млн 3 ч.
Основатель и глава Spotify внезапно объявил об уходе в отставку 3 ч.
Команды разработчиков Windows воссоединились после шестилетней работы порознь 3 ч.
Nvidia выпустила драйвер с поддержкой Battlefield 6 и обновления FBC: Firebreak 3 ч.
«Пластилиновая» ролевая игра Banquet For Fools отправит исследовать загадочный мир и придумывать заклинания — дата выхода и новый трейлер 3 ч.
Nothing продолжает нейрофикацию — запущен ИИ-генератор мини-приложений по текстовым описаниям 4 ч.
Хардкорная ролевая игра Outward 2 выйдет летом 2026 года 4 ч.
«Ростелеком» запустил «Турбо Облако» с 500 тыс. виртуальными процессорами 5 ч.
Zhaoxin представила серверный x86-процессор KH-50000: 96 ядер без SMT и 12 каналов DDR5-5200 6 мин.
SteelSeries выпустила беспроводную игровую гарнитуру Arctis Nova Elite за $600 с беспроводным ЦАП 8 мин.
Corsair представила беспроводные гарнитуры Void v2 Max Wireless и Void v2 Max Wireless для Xbox за $150 49 мин.
Грядущий флагман Samsung Galaxy S26 Ultra показался на изображениях — изменения в дизайне минимальны 2 ч.
LG выпустила монитор UltraFine evo 6K с Thunderbolt 5 для профессионалов — в 2,5 раза дешевле аналога от Apple 2 ч.
Apple представила наушники Powerbeats Fit за $200 с гибкой конструкцией для спорта и не только 2 ч.
Китайская Zhaoxin представила серверные x86-процессоры KH-50000 — до 96 ядер, 128 линий PCIe 5.0 и 12 каналов DDR5-5200 6 ч.
Samsung готовит SSD вместимостью 512 Тбайт с интерфейсом PCIe 6.0 6 ч.
Бум атомной энергетики из-за ИИ ЦОД в США обойдётся в $350 млрд 6 ч.
Logitech представила беспроводную мышь MX Master 4 с тактильной обратной связью за $120 7 ч.