В Cruise знали, что её беспилотные автомобили не всегда распознают детей, но продолжали испытания

Принадлежащая корпорации General Motors компания Cruise не прекратила испытания своих беспилотных автомобилей даже после того, как узнала, что их навигационные алгоритмы при определённых сценариях могут не распознавать детей и дорожные ямы.

Источник изображений: getcruise.com

Cruise проводила испытания беспилотных автомобилей, в том числе на правах коммерческой эксплуатации, на дорогах общего пользования в нескольких городах США. Её представители уверяли, что автопилот намного безопаснее, чем находящийся за рулём человек, но это не уменьшало скептицизма со стороны как рядовых участников дорожного движения, так и регулирующих органов. Недавно Департамент моторных транспортных средств Калифорнии (DMV) отозвал разрешение на эксплуатацию роботакси Cruise, причём поводом послужили не многочисленные инциденты с машинами, а тот факт, что компания скрыла запись происшествия, в котором роботакси около 6 метров протащило попавшего под колёса человека.

Но этот инцидент — лишь верхушка айсберга, выяснили журналисты The Intercept. Сообщения во внутреннем чате компании показывают, что её сотрудники было осведомлены о двух важных проблемах: беспилотные автомобили Cruise с трудом обнаруживают большие ямы на дорогах и при определённых условиях могут не распознавать детей. Зная об этом, она продолжала эксплуатировать эти транспортные средства и заверяла общественность об их безопасности.

Внутренние материалы Cruise указывают, что её робомобили слишком быстро пересекают пешеходные переходы и не сбавляют скорости, даже выявив присутствие ребёнка в непосредственной близости, хотя он в любой момент может выбежать на дорогу. В обучающих данных, признаёт разработчик, недостаточно проработаны сценарии, при которых ребёнок внезапно убегает от сопровождающего взрослого, падает, катается на велосипеде или носит нестандартный костюм. Как показало моделирование, компания не исключает, что беспилотный автомобиль может сбить ребёнка. В одном из тест-драйвов машина Cruise успешно обнаружила манекен размером с ребёнка, но всё же ударила его боковым зеркалом на скорости 44,8 км/ч.

Неспособность робомобилей достоверно обнаруживать детей во внутренних материалах компании объяснили несовершенным ПО и недостаточно эффективными условиями испытаний: у программной платформы отсутствует высокоточный классификатор «малых уязвимых участников дорожного движения», то есть детей, который позволял бы их автоматически идентифицировать и производить необходимые навигационные манёвры. Компенсировать этот изъян в компании пытались при помощи обученных операторов, которые производили идентификацию детей вручную, если ПО давало сбой.

В Cruise признали, что минувших летом в рамках испытаний на симуляции автопилот на время терял из виду находящихся на обочине дороги детей. Компания уточнила, что проблема была устранена, и возникала она только во время испытаний, а не эксплуатации машин на дорогах общего пользования — при этом умолчала, сколько времени ушло на устранение проблемы, и каким именно образом она была устранена. Представительница Cruise Навиде Форгани (Navideh Forghani) добавила, что ПО не просто не смогло идентифицировать эти объекты как детей, а вообще не увидело их. Директор компании по связям с общественностью Эрик Мозер (Erik Moser) подчеркнул, что классификация детей как особой категории пешеходов имеет особое значение, поскольку они могут вести себя непредсказуемо. По оценкам компании, риск столкновения с ребёнком может возникать один раз на 300 млн миль (480 млн км) пробега автопарка, и с момента испытаний, по итогам которых была дана эта оценка, показатель был повышен. Фактических наездов на детей зафиксировано не было.

Ещё одна известная разработчику проблема автопилота Cruise — его неспособность обнаруживать большие дорожные ямы, в том числе возникающие при дорожных работах, в которых находятся рабочие. О проблеме известно больше года, и, по собственным оценкам компании, она представляет собой серьёзный риск для её деятельности: с существующей версией ПО один из робомобилей Cruise может въезжать в яму без людей раз в год, а в яму с людьми — раз в четыре года. Без устранения проблемы риск может вырасти, поскольку парк беспилотных машин компании расширяется. И эта проблема гипотетической уже не является: существует запись, на которой автомобиль Cruise, игнорируя дорожные конусы, направляется к яме с рабочими, резко тормозя лишь на подъезде — въехала ли машина в яму или успела затормозить, не видео не попало.

Профессор Университета Карнеги — Меллона Фил Купман (Phil Koopman), с которым пообщались журналисты The Intercept, сообщил, что проблема «негативных препятствий» (так разработчики беспилотного транспорта называют ямы) известна давно, и Cruise следовало включить их в обучающий массив с самого начала. Он раскритиковал механизм машинного обучения, основанный на обработке сценариев после того, как машина столкнулась с угрозой, а не до этого момента. Решить же проблему с некорректной классификацией детей как особой категории пешеходов — это своего рода инженерный парадокс, поскольку трудно классифицировать объект, который вообще не всегда обнаруживается. Cruise попыталась временно решить эту проблему, ограничив часы эксплуатации роботакси, но компании явно не следовало отказываться от услуг операторов в салоне робомобилей — это было сделано исключительно в угоду имиджу и инвесторам.

Проблемы детей и ям на дорогах являются не единственными у Cruise. Ранее также стало известно, что беспилотные автомобили компании некорректно осуществляли левый поворот на нерегулируемых перекрёстках. Для исправления этой проблемы Cruise пришлось выпустить специальное обновление ПО.