Теги → навыки

Навыки Amazon Alexa Skills могут научить детей плохому

Голосовые ассистенты типа Amazon Alexa, Google Assistant или Алисы Яндекса предлагают систему навыков, которая расширяет возможность получения специальных знаний одними лишь голосовыми командами. Подобные возможности должны регулироваться строгими правилами, особенно если это касается навыков для детей. Дети любопытны, а ответы на некоторые вопросы лучше придержать до этапа их взросления. Но пока с соблюдением этих правил не очень хорошо.

Группа учёных в США недавно завершила годовой эксперимент по проверке магазина Amazon Alexa Skills на предмет соблюдения навыками политики компании. Выяснилось, что сертификация навыков по-прежнему организована из рук вон плохо. Злоумышленник может без особого труда пройти сертификацию навыка с серьёзными нарушениями политики самой Amazon.

В качестве эксперимента исследователи создали 234 детских навыка Alexa Skills с преднамеренным нарушением политики компании. К их величайшему удивлению 193 навыка были сертифицированы с первого раза. Остальные 41 навык были отклонены, но прошли сертификацию со второго раза (32 навыка были классифицированы, как нарушающие политику конфиденциальности, а 9 имели проблемы с пользовательским интерфейсом).

Среди сертифицированных для детей провокационных навыков Alexa Skills, которые одобрила служба Amazon, были навыки для изготовления глушителя для огнестрельного оружия (навык ремесла), навык для изготовления лёгких наркотиков (навык по данным о пустыне), скрытая реклама (навык по географии), сбор данных об именах детей (навык с историями) и другие. Все вредные навыки исследователи удаляли сразу после сертификации, чтобы пользователи случайно их не установили.

По мнению исследователей, о чём они регулярно и неоднократно докладывали Amazon, служба сертификации навыков компании крайне несовершенна и работает халатно. Это непоследовательность в проверке (навыки с одним и тем же нарушением получают различные экспертные оценки), выборочная проверка голосовых команд (отсутствие глубины проверки навыков), слепое доверие разработчикам (достаточно заполнить форму в заявке, которую никто не будет проверять), отсутствие автоматизации при проверке (люди допускают ошибки), банальная халатность и наём на работу по сертификации иностранных специалистов.

Компания Amazon опровергает все представленные выше выводы. По словам её представителя, детские навыки проходят дополнительную проверку уже после получения сертификата, а исследователи сразу поле сертификации удалили плохие навыки и не позволили специалистам Amazon провести их комплексную проверку. В ответ на это исследователи заявили, что они смогли обнаружить в магазине Alexa Skills 52 навыка с нарушением политики компании. Аналогичная проверка навыков Google Assistant, кстати, показала, что Google серьёзнее относится к проблеме, хотя к ней тоже есть вопросы.

В заключение остаётся рекомендовать родителям стараться прислушиваться к тому, о чём их дети беседуют с голосовыми ассистентами. Многие наверняка будут удивлены и даже шокированы. Но кто сказал, что родителем быть легко?

Baidu заставила искусственный интеллект обучаться как ребёнка

Команда исследователей искусственного интеллекта Baidu научила виртуального агента, «живущего» в двухмерном пространстве, использовать для перемещения команды на естественном языке. Агенту задавали различные вопросы, на которые ему приходилось отвечать положительно или отрицательно. По словам учёных, у искусственного интеллекта в результате появились способности к обучению на основе несвязанных данных. Это означает, что агент развил базовое чувство грамматики.

Аналогичным образом родители обучают своих детей. Ребёнку показывают картинки, повторяют слова, и по мере того, как положительных ответов становится больше, ребёнок учится ассоциировать слова с изображениями.

Прорыв Baidu заключается в том, что её искусственный интеллект может применять изученные команды к новым ситуациям. Обычно компьютер плохо справляется с использованием приобретённых знаний. Ниже представлено официальное описание работы системы.

«Люди легко справляются с применением приобретённых знаний к новой задаче, но это по-прежнему вызывает трудности у современных машин сквозного обучения. Машины хоть и могут знать, как выглядит питайя, но они не могут выполнять задачу “порезать питайю ножом”, пока их специально не обучат набору данных, содержащему эту команду. Но наш агент продемонстрировал способность успешно переносить то, что он знал о визуальном облике питайи, на задачу “порезать X ножом”, при этом его не нужно было специально обучать выполнению задачи “нарезать питайю ножом”».

Расширение использования навыка, задействованного ранее — немалое достижение для искусственного интеллекта. Это доказывает, что системы могут обучаться и использовать знания так же, как люди, даже если пока это возможно только в рамках простого двухмерного пространства. 

Проект «RoboHow» откроет роботам новые знания и алгоритм их практической реализации

Специалисты из нескольких европейских университетов совместно с инженерами из компании Phillips ещё в начале этого года объявили о создании единой сети для роботов — «RoboEarth». По мнению разработчиков, их проект должен стать чем-то схожим на Википедию, из которой роботизированные устройства смогли бы брать новую информацию, обмениваться данными друг с другом через единую сеть-базу и самосовершенствоваться. Это, в свою очередь, теоретически позволит нескольким разным, на первый взгляд, механизмам даже научиться выполнять задачу комплексно, самостоятельно разделив между собой обязанности.

robohow.eu

robohow.eu

Создание облачной инфраструктуры длится уже четвёртый год, преодолев весьма серьёзный путь своего развития. Логическим продолжением и развитием проекта «RoboEarth» может стать проект-правопреемник под названием «RoboHow». Его реализацией занялись немецкие учёные из лаборатории по изучению искусственного интеллекта при Бременском университете.

Какова же задача и основные принципы программного комплекса «RoboHow»? Прежде всего, проект преследует цель обучить роботов обработке информации, которая имеется во Всемирной сети. С её помощью он смог бы освоить новые механические действия и операции. Несмотря на достаточно абстрактную формулировку, итог проекта представляется вполне понятным.

www.eunews.it

www.eunews.it

Вы, будучи посетителем, скажем, салона с роботом-парикмахером, просите его сделать вам причёску как у одного из голливудских актёров. Устройство должно самостоятельно найти информацию об этом человеке, проанализировать её, подготовить алгоритм выполнения вашего требования и успешно справиться с поставленной задачей. А может вы хотите дать вашему собственному роботу-повару задание приготовить что-нибудь новенькое, изучив доступные рецепты в Интернете, или же быстро продемонстрировав ему на практике необходимую последовательность движений?

  

robohow.eu

robohow.eu

Концепция звучит весьма трудно реализуемой и, увы, это действительно так. Разработчики обязаны будут не просто добавить алгоритм в ПО робота для использования поисковой системы и преобразования текста в правильные механические операции, согласно пожеланиям пользователя. Существует слишком много нюансов при обучении новым функциям. С такими тонкостями сталкиваются или ещё столкнутся учёные из Бременского университета даже при такой банальной задаче, как приготовление роботом самого простейшего, но абсолютно нового блюда. 

А пока что создаваемые сегодня модели имеют строго ограниченную функциональность, которая изначально заложена в их систему конструкторами с самыми минимальными возможностями самосовершенствования. Эмоциональная «машина-актёр» Robothespian, конечно, способна декламировать новые тексты с характерной интонацией, но вот внести что-то кардинально новаторское в своё выступление устройство без помощи людей не сумеет. 

window-new
Soft
Hard
Тренды 🔥