Новости Software

Навыки Amazon Alexa Skills могут научить детей плохому

Голосовые ассистенты типа Amazon Alexa, Google Assistant или Алисы Яндекса предлагают систему навыков, которая расширяет возможность получения специальных знаний одними лишь голосовыми командами. Подобные возможности должны регулироваться строгими правилами, особенно если это касается навыков для детей. Дети любопытны, а ответы на некоторые вопросы лучше придержать до этапа их взросления. Но пока с соблюдением этих правил не очень хорошо.

Группа учёных в США недавно завершила годовой эксперимент по проверке магазина Amazon Alexa Skills на предмет соблюдения навыками политики компании. Выяснилось, что сертификация навыков по-прежнему организована из рук вон плохо. Злоумышленник может без особого труда пройти сертификацию навыка с серьёзными нарушениями политики самой Amazon.

В качестве эксперимента исследователи создали 234 детских навыка Alexa Skills с преднамеренным нарушением политики компании. К их величайшему удивлению 193 навыка были сертифицированы с первого раза. Остальные 41 навык были отклонены, но прошли сертификацию со второго раза (32 навыка были классифицированы, как нарушающие политику конфиденциальности, а 9 имели проблемы с пользовательским интерфейсом).

Среди сертифицированных для детей провокационных навыков Alexa Skills, которые одобрила служба Amazon, были навыки для изготовления глушителя для огнестрельного оружия (навык ремесла), навык для изготовления лёгких наркотиков (навык по данным о пустыне), скрытая реклама (навык по географии), сбор данных об именах детей (навык с историями) и другие. Все вредные навыки исследователи удаляли сразу после сертификации, чтобы пользователи случайно их не установили.

По мнению исследователей, о чём они регулярно и неоднократно докладывали Amazon, служба сертификации навыков компании крайне несовершенна и работает халатно. Это непоследовательность в проверке (навыки с одним и тем же нарушением получают различные экспертные оценки), выборочная проверка голосовых команд (отсутствие глубины проверки навыков), слепое доверие разработчикам (достаточно заполнить форму в заявке, которую никто не будет проверять), отсутствие автоматизации при проверке (люди допускают ошибки), банальная халатность и наём на работу по сертификации иностранных специалистов.

Компания Amazon опровергает все представленные выше выводы. По словам её представителя, детские навыки проходят дополнительную проверку уже после получения сертификата, а исследователи сразу поле сертификации удалили плохие навыки и не позволили специалистам Amazon провести их комплексную проверку. В ответ на это исследователи заявили, что они смогли обнаружить в магазине Alexa Skills 52 навыка с нарушением политики компании. Аналогичная проверка навыков Google Assistant, кстати, показала, что Google серьёзнее относится к проблеме, хотя к ней тоже есть вопросы.

В заключение остаётся рекомендовать родителям стараться прислушиваться к тому, о чём их дети беседуют с голосовыми ассистентами. Многие наверняка будут удивлены и даже шокированы. Но кто сказал, что родителем быть легко?

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме
window-new
Soft
Hard
Тренды 🔥
Создатели Blade Runner: Enhanced Edition объяснили проблемный запуск переиздания человеческим фактором 16 мин.
Шифрование в Windows 11 может повреждать данные, однако у Microsoft есть решение 45 мин.
Иран впервые разместил заказ на импорт товаров с оплатой в криптовалюте 2 ч.
Не выходя из «беты»: аудитория платформенного файтинга MultiVersus достигла 10 млн человек 2 ч.
Условно-бесплатный экшен ARC Raiders уступит место первой игры Embark Studios её командному шутеру 2 ч.
NVIDIA выпустила драйвер GeForce Game Ready 516.94 WHQL с поддержкой Marvel’s Spider-Man Remastered и новыми игровыми оптимизациями 3 ч.
Видео: вампир-убийца и неоновая Япония в анонсирующем трейлере экшена Tokyo Underground Killer 3 ч.
В соцсети «ВКонтакте» началось тестирование обновлённой ленты 5 ч.
Видео: свежий геймплейный трейлер тактической ролевой игры The DioField Chronicle посвятили планированию сражений 7 ч.
Google добавила новую возможность для точного поиска словосочетаний 7 ч.
По стопам NVIDIA: Micron предупредила акционеров о снижении выручки из-за падения спроса на память 5 мин.
Первый ушёл: ирландский оператор Dataplex приступил к самоликвидации из-за новой политики властей в отношении ЦОД 25 мин.
Игровой ноутбук MSI GE77 HX Raider 12U на процессоре Core HX 12-го поколения поступил в продажу в DNS 2 ч.
Китайская компания Biren представила ИИ-ускоритель BR100, который обгоняет по производительности NVIDIA A100 3 ч.
В Китае представили ускоритель вычислений Biren BR100, который превосходит NVIDIA Ampere A100 3 ч.
Индийские власти хотят запретить китайские смартфоны дешевле $150 из-за «нечестной конкуренции» 5 ч.
Vivo готовит смартфон V25 Pro со 120-Гц дисплеем и процессором Dimensity 1300 6 ч.
Lenovo представила рабочие станции на базе Ryzen Pro 5000 и Ryzen Pro 6000 6 ч.
В России вышел смартфон realme 9 4G с 108-Мпикс камерой и ценой 26 тыс. руб. 6 ч.
Ночному сбою в работе Google предшествовал инцидент с силовым оборудованием — пострадали три электрика 6 ч.