Telegram-канал «Ростеха» сообщил, что перспективный российский электромобиль «Атом» получит систему распознавания лиц на основе искусственного интеллекта. Такое решение позволит «Атому» «узнавать» конкретного водителя и мгновенно адаптироваться под него. Внедрением функций распознавания лиц при помощи ИИ займётся компания NtechLab.

Источник изображений: «Атом»

В «Ростехе» утверждают, что эта разработка станет первым в России внедрением функций ИИ в автотранспорт. Аутентификация водителя будет производиться при помощи мобильного приложения. Разработчики гарантируют уверенное распознавание людей в очках и головном уборе. Обман системы исключён — она обучена отличать живого человека от силиконовой маски или фотографии.

В будущем система распознавания лиц «Ростеха» может быть использована в каршеринге и такси.

Серийное производство основанного на отечественной модульной платформе компактного электромобиля «Атом» должно начаться в 2025 году на столичном заводе «Москвич». Электрокар разработан российским стартапом «Кама», ключевой инвестор проекта — дочерняя структура «Росатома» «Рэнера» – отраслевой интегратор в области систем накопления энергии. В настоящий момент ведутся испытания функциональных прототипов. Будущие объёмы производства электрокаров представитель «Камы» не раскрывает.

Компания «Кама» — производитель «Атома» — была основана в августе 2021 года. Основными инвесторами проекта стали гендиректор предприятия «Камаз» Сергей Когогин и основатель и бывший владелец инвестиционной компании «Тройка Диалог» Рубен Варданян.

Бывший сотрудник обвинил компанию Amazon в нарушении наложенных Великобританией санкций и продаже технологии распознавания лиц российской компании после начала украинских событий, передаёт Financial Times. Amazon все обвинения отвергла.

Источник изображения: Tumisu / pixabay.com

Чарльз Форрест (Charles Forrest) заявил, что был несправедливо уволен в 2023 году за то, что обвинил Amazon в ряде правонарушений в период с ноября 2022-го по май 2023 года. Информацию он представил в Лондонском трудовом трибунале в ходе слушаний на этой неделе. Amazon заключила сделку с российской компанией VisionLabs (принадлежит МТС) о предоставлении доступа к своей технологии распознавания лиц Rekognition, утверждает господин Форрест. Американская компания сделала это «через предположительно подставную компанию в Нидерландах». Бывший сотрудник также обвинил Amazon в нарушении добровольного моратория на предоставление технологии распознавания лиц полицейским структурам.

В Amazon обвинения отвергли. «Считаем обвинения необоснованными и ждём возможности продемонстрировать это в ходе судебного процесса. На основании имеющейся информации и записей о выставлении счетов AWS не продавала услуги Amazon Rekognition компании VisionLabs», — заявил представитель компании. Форрест же был уволен за «грубое нарушение дисциплины», когда отказался работать согласно контракту, не отвечал на электронные письма и не приходил на назначенные встречи. Компания не считает, что её бывший сотрудник раскрыл информацию, которая дала бы ему право на защиту осведомителей.

При этом Amazon, вероятно, признала, что нарушила самозапрет на предоставление полиции доступа к технологии распознавания лиц, но добавила, что тем самым не нарушила никаких законов. «Самостоятельно введённый мораторий не является юридическим обязательством», — пояснили в компании.

В 2020 году IBM на волне подъёма движения Black Lives Matter объявила об отказе продавать свою технологию распознавания лиц. Но вопреки своим собственным заявлениям компания заключила с британским правительством контракт на поставку такой системы, оцениваемый в $69,8 млн.

Источник изображения: Carson Masterson / unsplash.com

В июне 2020 года глава IBM Арвинд Кришна (Arvind Krishna) направил в американский Конгресс письмо, в котором, в частности, отметил: «IBM твердо выступает против и не станет одобрять использование каких-либо технологий, в том числе технологий распознавания лиц, предлагаемых другими поставщиками, для массовой слежки, составления профилей на основе расовой принадлежности, нарушения основных прав и свобод человека или любых целей, не соответствующих нашим ценностям и „Принципам доверия и прозрачности”». Впоследствии компания пошла дальше и призвала к введению в США норм экспортного контроля, которые не позволили бы применять системы распознавания лиц «для подавления инакомыслия, ущемления прав меньшинств или стирания основных запросов на конфиденциальность» даже за рубежом.

Тем не менее, в августе 2023 года IBM заключила с британским правительством контракт на сумму £54,7 млн ($69,8 млн) на разработку национальной биометрической платформы с функцией распознавания лиц, которой смогут пользоваться правоохранительные органы и иммиграционная служба, узнали журналисты американского ресурса The Verge и британской организации журналистских расследований Liberty Investigates. На начальных этапах Платформа сопоставления биометрии МВД (Home Office Biometrics Matcher Platform) Великобритании предусматривает функцию сопоставления отпечатков пальцев, а на более поздних уже предусматривает внедрение системы распознавания лиц для иммиграционной службы — в документах она описывается как «средство стратегического сопоставления лиц для правоохранительных органов». На финальных стадиях проекта речь идёт о функции «сопоставления лиц для использования правоохранительными органами».

Иными словами, речь идёт о сопоставлении фотографий людей с изображениями из базы данных — это называется системой сопоставления типа «один ко многим». В сентября 2020 года IBM напрямую указывала, что системы сопоставления «один ко многим» являются «типом технологии распознавания лиц, который, скорее всего, будет использоваться для массовой слежки, создания профилей на основе расовой принадлежности и прочих нарушений прав человека».

Источник изображения: Tumisu / pixabay.com

В IBM противоречия своих действий собственным заявлениям, кажется, не усматривают. Представитель компании Имтиаз Муфти (Imtiaz Mufti), в частности, заявил: «В соответствии с нашими обязательствами от 2020 года IBM более не предлагает [систем] распознавания лиц общего назначения, не поддерживает использования [систем] распознавания лиц для массового наблюдения, создания профилей на основе расовой принадлежности или прочих нарушений прав человека. <..> Платформа сопоставления биометрии МВД и контракт на связанные с ней услуги не используются для массового наблюдения. Она помогает полиции и иммиграционным службам идентифицировать подозреваемых по базе данных отпечатков и по данным фотографий. Она не способна производить захват видео, который обычно необходим для поддержки снятия биометрии у „лиц в толпе”».

Правозащитники раскритиковали позицию IBM, подчеркнув, что системы распознавания лиц типа «один ко многим» несовместимы с законами о правах человека, и компании следует в соответствии со своими заявлениями прекратить их продажи. Применение полицией подобных систем связывают с неправомерными арестами в США, а в Великобритании его правомерность оспаривалась в суде, напомнили The Verge и Liberty Investigates. В августе 2020 года Апелляционный суд Великобритании постановил, что применение полицией Южного Уэльса системы распознавания лиц нарушает право на неприкосновенность частной жизни и законы о равенстве. После вынесения этого решения полиция приостановила использование этой системы, но впоследствии к ней вернулась.

Моратории на продажи систем распознавания лиц полицейским управлениям США вслед за IBM ввели Amazon и Microsoft. В июне 2020 года был введён однолетний мораторий на продажу полиции системы Amazon Rekognition с намерением впоследствии продлить его на «неопределённый срок» — пресс-секретарь Amazon подтвердила, что он всё ещё действует. Тогда же, в июне 2020 года, Microsoft заявила, что также не станет продавать ПО для распознавания лиц полицейским управлениям США до тех пор, пока не выйдет федеральный закон, регулирующий использование этой технологии. В ответ на запрос The Verge и Liberty Investigates представитель Microsoft сослалась на информацию с сайта компании, где явно указано, что применение сервиса Azure AI Face «полицией штата или муниципальной полицией в США или для них запрещено политикой Microsoft». МВД Великобритании на запрос не ответило.

Управление киберпространства Китая (CAC) выпустило проект правил, регламентирующих надзор за управлением безопасностью технологии лицевой идентификации — её чрезмерное распространение вызывало опасения по поводу конфиденциальности граждан.

Источник изображения: Tumisu / pixabay.com

В ведомстве заявили, что технология распознавания лиц может применяться только при наличии конкретной цели и достаточной необходимости, а также при соблюдении строгих защитных мер. Её использование требует личного согласия. В случаях, когда небиометрические решения идентификации граждан оказываются столь же эффективными, что и технология лицевой идентификации, предпочтение должно отдаваться первым.

Технологии биометрической идентификации, и в первую очередь распознавания лиц, широко применяются в Китае. В 2020 году местные СМИ сообщили, что система распознавания лиц появилась на диспенсерах рулонов туалетной бумаги в общественных уборных, что вызвало негативную реакцию общественности и регулирующих органов. С тех пор местные органы власти выносили запреты на чрезмерное использование этих систем и даже налагали штрафы за злоупотребления.

Новый проект правил запрещает устанавливать устройства захвата изображений и идентификации личности в гостиничных номерах, общественных ванных комнатах, в раздевалках, уборных и других местах, где возникает риск для конфиденциальности граждан. Эти системы следует устанавливать только в целях общественной безопасности и сопровождать их соответствующими предупредительными знаками.

Основатели компании NtechLab Артём Кухаренко и Александр Кабаков были вынуждены покинуть компанию из-за разногласий с менеджментом и инвесторами. По данным источника, они пытались уговорить руководство остановить работу компании в России, но сделать этого не удалось.

Источник изображения: pixabay.com

Напомним, компания NtechLab была основана в 2015 году программистом Артёмом Кухаренко и инвестором Александром Кабаковым. Одним из продуктов разработчика стала платформа FindFace Multi, способная распознавать лица и силуэты людей. Среди заказчиков NtechLab в России госучреждения, а также власти Москвы и Московской области. Алгоритм FindFace является одной из составляющих московской системы распознавания лиц.

Ранее на этой неделе СМИ писали, что разработки NtechLab используются для выявления и задержания лиц, недовольных политикой нынешних властей и принимающих участие в митингах людей. После этого Кухаренко и Кабаков заявили, что они пытались убедить менеджмент и акционеров компании свернуть деятельность в России и переместить всех сотрудников компании за рубеж. Однако руководство NtechLab и большинство акционеров не захотели этого делать, из-за чего Кухаренко и Кабаков решили покинуть компанию.

Представитель NtechLab сообщил журналистам, что ни один акционер не воспользовался правом вето в ходе голосования относительно дальнейшего продолжения работы в России. Это же касается и основателей компании. Однако Кухаренко заявил, что совет директоров никогда не проводил голосование по данному вопросу. Согласно имеющимся данным, он написал заявление об увольнении ещё 25 февраля 2022 года и покинул страну на следующий день. Вся работа была передана сотрудникам компании к концу марта, но Кухаренко продолжал работать в NtechLab до июля.

Группа студентов из Университета Уханя реализовала проект, получивший главный приз на первом конкурсе инноваций в области кибербезопасности, проводимом при поддержке компании Huawei. «Кубок Huawei» был присуждён за разработку одежды InvisDefense, которая делает человека невидимым для систем распознавания с камерами на базе искусственного интеллекта.

Источник изображения: Wei Hui

Придуманная студентами одежда работает как днём, так и ночью. Специальный камуфляж вводит ИИ в заблуждение при анализе изображения с камер в видимом свете и в инфракрасном. Днём это простой рисунок на одежде, а ночью — выделяющая тепло проводка на одежде также нанесённая определённым образом.

По словам разработчиков InvisDefense, они стремились к двум противоположным целям. С одной стороны, слежение за людьми достигло такого масштаба, при котором любая приватность тает как дым. С другой стороны, в системах безопасности остаются лазейки, которыми в противоправных целях могут воспользоваться злоумышленники. Очевидно, одежда InvisDefense и другие подобные решения не должны препятствовать работе системе правопорядка, но могут останавливать сбор данных о гражданах в интересах коммерции или частных лиц.

Одежду InvisDefense студенты испытали на системе слежения университетского кампуса. Точность распознавания снизилась на 57 %. Это хороший результат, который может быть ещё улучшен. Но даже в таком виде одежда InvisDefense пригодна для использования, уверены разработчики и надеются организовать её продажу по цене 500 юаней за комплект ($71). В дальнейшем группа намерена разработать аналогичный камуфляж для предметов и автомобилей, а также подумать, как можно обмануть системы слежения со спутников.