Новости Software

Искусственный интеллект Google принял черепаху за ружьё

Благодаря беспилотным автомобилям и «умным» камерам наблюдения общество понемногу учится доверять искусственному интеллекту больше, чем собственным глазам. Но хотя новые системы видения неутомимы и всегда бдительны, они далеки от непогрешимости. Посмотрите на черепаху сверху. Она выглядит как черепаха, верно? Для нас, но не для нейронного сетевого алгоритма, натренированного Google на распознавание повседневных объектов. По мнению ИИ Google, это определённо ружьё.

 labsix.org

labsix.org

Эта напечатанная 3D-принтером черепаха — пример того, что известно как изображение-обманка. В мире ИИ такие картинки сгенерированы для того, чтобы обмануть визуальные алгоритмы, используя особые шаблоны, выбивающие ИИ из колеи. Это своего рода оптические иллюзии для компьютеров. Вы можете сконструировать очки, обманывающие системы распознавания лиц, выдавая себя за кого-то другого, или можете сделать картинку практически невидимой и статичной, но человек не заметит разницы, а для ИИ это буквально будет означать, что панда превратится в грузовик или черепаха — в ружьё.

Изучение способов создания таких атак и защиты от них — активное поле для исследований. И хотя такие атаки поразительно эффективны, они обычно не слишком всеобъемлющие. Это означает, что если пользователь повернёт изображение-обманку или немного увеличит её, компьютер сможет распознать опасный шаблон и правильно идентифицировать объект. Эта модель черепахи знаковая, поскольку она показывает, как такие атаки работают в трёхмерном пространстве, одурачивая компьютер непривычным углом зрения.

Команда студентов-исследователей Labsix, опубликовавшая это исследование, утверждает, что вполне вероятна ситуация, когда один из знаков о гаражной распродаже, который водителю–человеку покажется совершенно обычным, будет воспринят компьютером как пешеход, который неожиданно появился рядом с улицей. Изображения-обманки это практическая проблема, которую люди должны учитывать, поскольку нейронные сети становятся всё более распространёнными (и опасными).

Labsix называют их новый метод обмана алгоритмов «Ожидания превыше трансформаций». Помимо создания черепахи, которая выглядит как ружьё, были и другие опыты, демонстрирующие не менее неутешительные результаты.

Группа протестировала их атаку на классификаторе изображений компании Google — Inception-v3. Компания сделала его доступным для исследователей, и хотя сейчас это некоммерческий сервис, он недалёк от этого. Хотя эта атака не проверялась другими системами видения, на данный момент нет однозначного превентивного алгоритма для изображений-обманок. Google не ответила письменно на предварительную версию предоставленных результатов проведённых испытаний, но её представитель по связям с общественностью указал на множество последних статей, опубликованных исследователями компании, где излагаются способы противодействия атакам изображений-обманок.

 labsix.org

labsix.org

Выше пример обычного изображения-обманки от Labsix. Пример изображения слева идентифицирован как гуакамоле. Если его наклонить, его распознают как кошку.

Это исследование также имеет ряд шероховатостей. Во-первых, команда настаивает на том, что их атака работает с каждого угла зрения, но их собственное демо-видео показывает, что она работает с большинства углов, но не со всех. Во-вторых, Labsix нуждаются в доступе к алгоритму распознавания Google, чтобы определить его слабости и использовать их. Это знаковый барьер для каждого, кто попытается использовать эти методы против коммерческих систем видения, например — поставщиков беспилотных автомобилей.

На данный момент такие атаки не представляют большой общественной опасности. Да, они эффективны, но только при определённых условиях. И хотя машинное видение используется в реальном мире, мы не можем быть уверены, что проблемы с распознаванием моделей, напечатанных на 3D-принтере, не являются частностью. Скорее, это указывает на уязвимость ИИ и подчёркивает необходимость удостовериться в том, что эти мелкие проблемы в дальнейшем не приведут к серьёзным последствиям.

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме
window-new
Soft
Hard
Тренды 🔥
Илон Маск пообещал, что аудитория "Twitter 2.0" к 2024 году достигнет 1 млрд ежемесячных пользователей 5 мин.
(ВИДЕО) В Сеть утек геймплейный ролик Need for Speed Unbound  — заезд на Volkswagen Beetle под A$AP Rocky 16 ч.
После сокращения половины штата Twitter начал набор сотрудников 16 ч.
Новая статья: Goat Simulator 3 — козапокалипсис сегодня. Рецензия 27-11 00:22
Новая статья: Gamesblender № 598: «горящие» GeForce RTX 4090, игровой движок от VK и первый геймплей Warhammer 40,000: Rogue Trader 26-11 23:44
Фоторедактор Lensa вдруг стал самым популярным приложением для iOS в России 26-11 23:22
Энтузиаст установил macOS на Nintendo Wii и попытался запустить Doom — получилось не очень 26-11 17:13
Скайрим, деньги, два зелья: мать реддитора начала геймерский путь с TES V: Skyrim и основала там доходный бизнес 26-11 13:58
Режиссёру God of War Ragnarok пришлось сражаться за одноглазую белку 26-11 13:33
После перехода к Илону Маску Twitter потерял крупных рекламодателей и сотни миллионов долларов дохода 26-11 13:11
Foxconn доплатит по $1800 тем рабочим в Чжэнчжоу, кто останется на предприятии по выпуску iPhone 14 Pro 2 ч.
Новая статья: Обзор игрового ноутбука MSI Katana GF66 12UE-868XRU: игровой средний класс 9 ч.
SpaceX запустила корабль Dragon к МКС — он доставит 3,5 тонны грузов, включая семена томатов 27-11 01:33
Ядерный проект «Прорыв» получит серверы на предсерийных чипах «Эльбрус-16С» 26-11 15:00
В Японии начнут добывать электричество из снега 26-11 14:57
В Японии построят самый большой в мире плавучий ветрогенератор — размах лопастей составит 200 метров 26-11 14:24
Дефицит чипов заставил Jaguar Land Rover сократить производство некоторых моделей 26-11 14:15
Вышел индустриальный ПК SolidRun Bedrock V3000 Basic с двумя портами 10GbE SFP+ и поддержкой 5G 26-11 13:59
В разгонном блоке новой европейской ракеты-носителя Vega C нашли дефект — его разберут, а первый коммерческий запуск отложат 26-11 13:48
AirPods Pro 2 всё же не поддерживают lossless-кодеки, но это не помешало Apple улучшить качество звука 26-11 13:23