Новости Hardware

DARPA хочет наделить машины способностью трезвой самооценки

Как справедливо рассуждают в DARPA, агентстве по управлению перспективными исследованиями Министерства обороны США, ключевой ингредиент любого успешного коллектива ― военного, спортивного или делового ― это взаимное доверие с полным пониманием того, кто и на что способен в той или иной ситуации. Поскольку машины становятся умнее, они вполне способны стать участниками команды в паре с человеком. Но для повышения уровня доверия необходимо, чтобы автономная система могла трезво оценить свой уровень компетентности в реально складывающихся условиях и сообщить об этом человеку или участникам коллектива. Сегодня это невозможно, уверены в DARPA, либо реализовано в самом зачаточном состоянии.

Автомобиль сообщает, что он 1000 раз ездил ночью в дождь и при этом мог с 90 % точностью различить человека и припятствие (DARPA)

Автомобиль сообщает, что он 1000 раз ездил ночью в дождь и при этом мог с 90 % точностью отличить человека от препятствия (DARPA)

Для наделения автономных систем способностью трезвой самооценки DARPA запускает программу Competency-Aware Machine Learning (CAML), подробнее о которой планирует рассказать 20 февраля. Уже из названия программы понятно, что агентство ищет решения в области машинного обучения и искусственного интеллекта. В программу входит не только моделирование и разработка алгоритмов поведения автономных систем, но также разработка интерфейса взаимодействия человека и машины.

В качестве примера автономной системы с возможностью самостоятельной оценки компетентности руководитель проекта CAML приводит следующую ситуацию. При заказе автономного такси ночью в плохую погоду клиент получает ответ от двух автомобилей, один из которых сообщает о 1000 успешных поездках в ночь и под дождём, в ходе которых система автомобиля с точностью 90 % отделяла живого человека от неодушевлённых препятствий. Другой автомобиль заявил о 99 % точности в сходных ситуациях, но он побывал в таких условиях только 100 раз. Тем самым клиент может сам сделать вывод и выбрать тот автомобиль, который покажется ему более опытным для поездки в сложных погодных условиях.

В конечном итоге знание человека об оперативном состоянии и готовности автономной системы выполнить определённую работу с прогнозируемым результатом повысит эффективность взаимодействия и приведёт к максимально согласованным действиям.

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме
Прежде чем оставить комментарий, пожалуйста, ознакомьтесь с правилами комментирования. Оставляя комментарий, вы подтверждаете ваше согласие с данными правилами и осознаете возможную ответственность за их нарушение.
Все комментарии премодерируются.
Комментарии загружаются...
window-new
Soft
Hard
Тренды 🔥
Apple оснастит фирменным 5G-модемом, не только iPhone 13, но и будущие iPad Pro 36 мин.
Lenovo выпустила в России флагманы компьютеры: планшет Tab P11 Pro и ноутбуки серий ThinkPad X1 и Yoga 9i 58 мин.
Заключён первый контракт на уборку космического мусора. Услуга будет очень дорогой 2 ч.
За первые дни продаж было реализовано более 2 млн. PlayStation 5, подсчитали СМИ 2 ч.
Цена флеш-памяти NAND продолжит падать до конца года из-за перепроизводства. SSD должны подешеветь 3 ч.
Xbox Series X начнут продавать на крупнейшем в мире игровом рынке только в 2021 году 3 ч.
Россия начнёт обсуждать судьбу МКС с зарубежными партнёрами в 2021 году 3 ч.
Банки стали использовать дроны для заключения сделок в пандемию, и это оказалось очень удобно 3 ч.
Xiaomi представила Redmi Note 9 4G и Note 9 5G — бюджетные смартфоны с большими экранами, ёмкими батареями и 48-Мп камерами 4 ч.
LG выделит пять не основных предприятий в отдельную холдинговую компанию в следующем году 4 ч.