Сегодня 15 июня 2024
18+
MWC 2018 2018 Computex IFA 2018
реклама
Теги → распознавание лиц

Экс-сотрудник обвинил Amazon в продаже санкционной технологии распознавания лиц в Россию

Бывший сотрудник обвинил компанию Amazon в нарушении наложенных Великобританией санкций и продаже технологии распознавания лиц российской компании после начала украинских событий, передаёт Financial Times. Amazon все обвинения отвергла.

 Источник изображения: Tumisu / pixabay.com

Источник изображения: Tumisu / pixabay.com

Чарльз Форрест (Charles Forrest) заявил, что был несправедливо уволен в 2023 году за то, что обвинил Amazon в ряде правонарушений в период с ноября 2022-го по май 2023 года. Информацию он представил в Лондонском трудовом трибунале в ходе слушаний на этой неделе. Amazon заключила сделку с российской компанией VisionLabs (принадлежит МТС) о предоставлении доступа к своей технологии распознавания лиц Rekognition, утверждает господин Форрест. Американская компания сделала это «через предположительно подставную компанию в Нидерландах». Бывший сотрудник также обвинил Amazon в нарушении добровольного моратория на предоставление технологии распознавания лиц полицейским структурам.

В Amazon обвинения отвергли. «Считаем обвинения необоснованными и ждём возможности продемонстрировать это в ходе судебного процесса. На основании имеющейся информации и записей о выставлении счетов AWS не продавала услуги Amazon Rekognition компании VisionLabs», — заявил представитель компании. Форрест же был уволен за «грубое нарушение дисциплины», когда отказался работать согласно контракту, не отвечал на электронные письма и не приходил на назначенные встречи. Компания не считает, что её бывший сотрудник раскрыл информацию, которая дала бы ему право на защиту осведомителей.

При этом Amazon, вероятно, признала, что нарушила самозапрет на предоставление полиции доступа к технологии распознавания лиц, но добавила, что тем самым не нарушила никаких законов. «Самостоятельно введённый мораторий не является юридическим обязательством», — пояснили в компании.

IBM клялась не разрабатывать системы распознавания лиц, но поступилась принципами за $70 млн

В 2020 году IBM на волне подъёма движения Black Lives Matter объявила об отказе продавать свою технологию распознавания лиц. Но вопреки своим собственным заявлениям компания заключила с британским правительством контракт на поставку такой системы, оцениваемый в $69,8 млн.

 Источник изображения: Carson Masterson / unsplash.com

Источник изображения: Carson Masterson / unsplash.com

В июне 2020 года глава IBM Арвинд Кришна (Arvind Krishna) направил в американский Конгресс письмо, в котором, в частности, отметил: «IBM твердо выступает против и не станет одобрять использование каких-либо технологий, в том числе технологий распознавания лиц, предлагаемых другими поставщиками, для массовой слежки, составления профилей на основе расовой принадлежности, нарушения основных прав и свобод человека или любых целей, не соответствующих нашим ценностям и „Принципам доверия и прозрачности”». Впоследствии компания пошла дальше и призвала к введению в США норм экспортного контроля, которые не позволили бы применять системы распознавания лиц «для подавления инакомыслия, ущемления прав меньшинств или стирания основных запросов на конфиденциальность» даже за рубежом.

Тем не менее, в августе 2023 года IBM заключила с британским правительством контракт на сумму £54,7 млн ($69,8 млн) на разработку национальной биометрической платформы с функцией распознавания лиц, которой смогут пользоваться правоохранительные органы и иммиграционная служба, узнали журналисты американского ресурса The Verge и британской организации журналистских расследований Liberty Investigates. На начальных этапах Платформа сопоставления биометрии МВД (Home Office Biometrics Matcher Platform) Великобритании предусматривает функцию сопоставления отпечатков пальцев, а на более поздних уже предусматривает внедрение системы распознавания лиц для иммиграционной службы — в документах она описывается как «средство стратегического сопоставления лиц для правоохранительных органов». На финальных стадиях проекта речь идёт о функции «сопоставления лиц для использования правоохранительными органами».

Иными словами, речь идёт о сопоставлении фотографий людей с изображениями из базы данных — это называется системой сопоставления типа «один ко многим». В сентября 2020 года IBM напрямую указывала, что системы сопоставления «один ко многим» являются «типом технологии распознавания лиц, который, скорее всего, будет использоваться для массовой слежки, создания профилей на основе расовой принадлежности и прочих нарушений прав человека».

 Источник изображения: Tumisu / pixabay.com

Источник изображения: Tumisu / pixabay.com

В IBM противоречия своих действий собственным заявлениям, кажется, не усматривают. Представитель компании Имтиаз Муфти (Imtiaz Mufti), в частности, заявил: «В соответствии с нашими обязательствами от 2020 года IBM более не предлагает [систем] распознавания лиц общего назначения, не поддерживает использования [систем] распознавания лиц для массового наблюдения, создания профилей на основе расовой принадлежности или прочих нарушений прав человека. <..> Платформа сопоставления биометрии МВД и контракт на связанные с ней услуги не используются для массового наблюдения. Она помогает полиции и иммиграционным службам идентифицировать подозреваемых по базе данных отпечатков и по данным фотографий. Она не способна производить захват видео, который обычно необходим для поддержки снятия биометрии у „лиц в толпе”».

Правозащитники раскритиковали позицию IBM, подчеркнув, что системы распознавания лиц типа «один ко многим» несовместимы с законами о правах человека, и компании следует в соответствии со своими заявлениями прекратить их продажи. Применение полицией подобных систем связывают с неправомерными арестами в США, а в Великобритании его правомерность оспаривалась в суде, напомнили The Verge и Liberty Investigates. В августе 2020 года Апелляционный суд Великобритании постановил, что применение полицией Южного Уэльса системы распознавания лиц нарушает право на неприкосновенность частной жизни и законы о равенстве. После вынесения этого решения полиция приостановила использование этой системы, но впоследствии к ней вернулась.

Моратории на продажи систем распознавания лиц полицейским управлениям США вслед за IBM ввели Amazon и Microsoft. В июне 2020 года был введён однолетний мораторий на продажу полиции системы Amazon Rekognition с намерением впоследствии продлить его на «неопределённый срок» — пресс-секретарь Amazon подтвердила, что он всё ещё действует. Тогда же, в июне 2020 года, Microsoft заявила, что также не станет продавать ПО для распознавания лиц полицейским управлениям США до тех пор, пока не выйдет федеральный закон, регулирующий использование этой технологии. В ответ на запрос The Verge и Liberty Investigates представитель Microsoft сослалась на информацию с сайта компании, где явно указано, что применение сервиса Azure AI Face «полицией штата или муниципальной полицией в США или для них запрещено политикой Microsoft». МВД Великобритании на запрос не ответило.

В Китае подготовили правила использования технологии идентификации лиц

Управление киберпространства Китая (CAC) выпустило проект правил, регламентирующих надзор за управлением безопасностью технологии лицевой идентификации — её чрезмерное распространение вызывало опасения по поводу конфиденциальности граждан.

 Источник изображения: Tumisu / pixabay.com

Источник изображения: Tumisu / pixabay.com

В ведомстве заявили, что технология распознавания лиц может применяться только при наличии конкретной цели и достаточной необходимости, а также при соблюдении строгих защитных мер. Её использование требует личного согласия. В случаях, когда небиометрические решения идентификации граждан оказываются столь же эффективными, что и технология лицевой идентификации, предпочтение должно отдаваться первым.

Технологии биометрической идентификации, и в первую очередь распознавания лиц, широко применяются в Китае. В 2020 году местные СМИ сообщили, что система распознавания лиц появилась на диспенсерах рулонов туалетной бумаги в общественных уборных, что вызвало негативную реакцию общественности и регулирующих органов. С тех пор местные органы власти выносили запреты на чрезмерное использование этих систем и даже налагали штрафы за злоупотребления.

Новый проект правил запрещает устанавливать устройства захвата изображений и идентификации личности в гостиничных номерах, общественных ванных комнатах, в раздевалках, уборных и других местах, где возникает риск для конфиденциальности граждан. Эти системы следует устанавливать только в целях общественной безопасности и сопровождать их соответствующими предупредительными знаками.

Основатели разработчика системы распознавания лиц NtechLab покинули компанию из-за бизнеса в России

Основатели компании NtechLab Артём Кухаренко и Александр Кабаков были вынуждены покинуть компанию из-за разногласий с менеджментом и инвесторами. По данным источника, они пытались уговорить руководство остановить работу компании в России, но сделать этого не удалось.

 Источник изображения: pixabay.com

Источник изображения: pixabay.com

Напомним, компания NtechLab была основана в 2015 году программистом Артёмом Кухаренко и инвестором Александром Кабаковым. Одним из продуктов разработчика стала платформа FindFace Multi, способная распознавать лица и силуэты людей. Среди заказчиков NtechLab в России госучреждения, а также власти Москвы и Московской области. Алгоритм FindFace является одной из составляющих московской системы распознавания лиц.

Ранее на этой неделе СМИ писали, что разработки NtechLab используются для выявления и задержания лиц, недовольных политикой нынешних властей и принимающих участие в митингах людей. После этого Кухаренко и Кабаков заявили, что они пытались убедить менеджмент и акционеров компании свернуть деятельность в России и переместить всех сотрудников компании за рубеж. Однако руководство NtechLab и большинство акционеров не захотели этого делать, из-за чего Кухаренко и Кабаков решили покинуть компанию.

Представитель NtechLab сообщил журналистам, что ни один акционер не воспользовался правом вето в ходе голосования относительно дальнейшего продолжения работы в России. Это же касается и основателей компании. Однако Кухаренко заявил, что совет директоров никогда не проводил голосование по данному вопросу. Согласно имеющимся данным, он написал заявление об увольнении ещё 25 февраля 2022 года и покинул страну на следующий день. Вся работа была передана сотрудникам компании к концу марта, но Кухаренко продолжал работать в NtechLab до июля.

В Китае придумали одежду, которая делает человека невидимым для камер наблюдения с ИИ

Группа студентов из Университета Уханя реализовала проект, получивший главный приз на первом конкурсе инноваций в области кибербезопасности, проводимом при поддержке компании Huawei. «Кубок Huawei» был присуждён за разработку одежды InvisDefense, которая делает человека невидимым для систем распознавания с камерами на базе искусственного интеллекта.

 Источник изображения: Wei Hui

Источник изображения: Wei Hui

Придуманная студентами одежда работает как днём, так и ночью. Специальный камуфляж вводит ИИ в заблуждение при анализе изображения с камер в видимом свете и в инфракрасном. Днём это простой рисунок на одежде, а ночью — выделяющая тепло проводка на одежде также нанесённая определённым образом.

По словам разработчиков InvisDefense, они стремились к двум противоположным целям. С одной стороны, слежение за людьми достигло такого масштаба, при котором любая приватность тает как дым. С другой стороны, в системах безопасности остаются лазейки, которыми в противоправных целях могут воспользоваться злоумышленники. Очевидно, одежда InvisDefense и другие подобные решения не должны препятствовать работе системе правопорядка, но могут останавливать сбор данных о гражданах в интересах коммерции или частных лиц.

Одежду InvisDefense студенты испытали на системе слежения университетского кампуса. Точность распознавания снизилась на 57 %. Это хороший результат, который может быть ещё улучшен. Но даже в таком виде одежда InvisDefense пригодна для использования, уверены разработчики и надеются организовать её продажу по цене 500 юаней за комплект ($71). В дальнейшем группа намерена разработать аналогичный камуфляж для предметов и автомобилей, а также подумать, как можно обмануть системы слежения со спутников.

Системы лицевой идентификации оказались бессильны перед естественными возрастными изменениями

Технологии распознавания лиц неплохо проявляют себя при выявлении нужных людей в толпе, однако старение человека значительно усложняет для них задачу — в отдельных случаях она становится непосильной. При отсутствии новых снимков человека достаточно всего пяти лет, чтобы серьёзно воспрепятствовать работе системы лицевой идентификации.

 Источник изображения: Tumisu / pixabay.com

Источник изображения: Tumisu / pixabay.com

К неутешительным для современных решений выводам пришла группа учёных из Норвежского университета естественных и технических наук (NTNU), возглавляемая кандидатом наук Марселем Гриммером (Marcel Grimmer). При помощи алгоритма искусственного интеллекта сгенерировали 50 000 человеческих лиц и искусственно их состарили, чтобы посмотреть, как справятся с этой задачей системы лицевой идентификации.

Создатели коммерческих систем распознавания лиц не раскрывают принципов работы своих алгоритмов, поэтому в качестве испытуемых были выбраны решения с открытым исходным кодом. В ходе тестирования исследователи обнаружили, что по мере увеличения возраста образцов точность срабатывания систем понижалась, а по достижении пятилетней разницы между образцом и сверяемым с ним изображением начинались заметные сбои. По достижении 20-летнего порога шансы на положительный результат становились чрезвычайно малыми.

Важным аспектом оказывался возраст образцов: системам было труднее справляться с лицами людей до 20 или старше 60 лет — в эти периоды возрастные изменения происходят быстрее. Господин Гриммер пояснил, что лица младенцев сильно меняются даже за два месяца — можно делать снимок ребёнка каждый месяц, и гарантии результата всё равно не будет. Небольшие изменения в лице отмечаются до 20 лет. Аналогичные процессы начинаются и после 60 лет: «снова меняется форма головы, и появляются более выраженные морщины», а значит, снижается и доля положительных срабатываний.

Самое простое решение для поддержки штатной работы систем лицевой идентификации — регулярно обновлять образцы снимков. Впрочем, это зависит от конкретной задачи, и если речь идёт о конфиденциальности, возрастные изменения могут оказаться естественной формой защиты от вторжения в частную жизнь.

Microsoft ограничит доступ к ИИ-решениям для распознавания эмоций

Компания Microsoft объявила о прекращении продаж технологий, позволяющих распознавать эмоции по выражениям лиц, и более не будет предоставлять неограниченный доступ к программным решениям для распознавания лиц.

 Источник изображения: Erik Mclean/unsplash.com

Источник изображения: Erik Mclean/unsplash.com

Известно, что ещё с прошлого года в Microsoft пытаются определить, насколько системы распознавания эмоций основаны на научном подходе. По словам представителя подразделения Microsoft Azure AI, эти попытки подняли ряд вопросов, связанных с обеспечением конфиденциальности, отсутствием консенсуса относительно самого определения термина «эмоции», невозможностью обобщить связь между выражением лица и настроением в разных обстоятельствах, регионах или половозрастных группах.

Хотя продажи технологии прекращены со вчерашнего дня, использующие сервис клиенты смогут ещё год пользоваться ИИ-инструментами, позволяющими распознавать эмоции, пол, возраст, улыбки, растительность на лице, волосы и макияж.

В прошлом году сервис Google Cloud также заблокировал распознавание 13 видов эмоций в своих инструментах, поставив под вопрос распознавание ещё четырёх, включая, например, радость и печаль. Компания оценивала возможность внедрения новой системы, позволяющей описать мимику вроде хмурости или улыбок без привязки её к эмоциям.

Дополнительно Microsoft заявила, что теперь клиенты должны получить разрешение на использование сервисов распознавания лиц, которые позволяют людям авторизоваться на сайтах или, например, открывать двери с помощью сканирования лиц.

Компания призвала клиентов избегать ситуаций, нарушающих конфиденциальность пользователей, или тех, в которых технологиям будет сложно справляться — вроде определения возраста и распознавания несовершеннолетних. Тем не менее, прямого запрета на использование подобных технологий пока не предусмотрено.


window-new
Soft
Hard
Тренды 🔥
Disney внедрил «рекламные игры» в стриминговые сервисы Hulu и ESPN 11 ч.
Meta перестала обучать ИИ на данных пользователей, но только из ЕС 11 ч.
Новая статья: XDefiant — зов долга, но не тот. Рецензия 11 ч.
В Сети нашли намёк на сроки выхода крупного эксклюзива Xbox — ролевой игры Clockwork Revolution, похожей на BioShock Infinite 11 ч.
The Talos Principle 2 получила «грандиозное» дополнение Road to Elysium со счастливой концовкой и сложнейшими загадками 12 ч.
Ubisoft превращается в «Абстерго»: платформу Assassin’s Creed Infinity переименовали в «Анимус» 14 ч.
Статистика назвала самые желанные игры с летних презентаций — Doom: The Dark Ages на втором месте 14 ч.
Bandai Namco анонсировала первый за несколько месяцев патч для Elden Ring и раскрыла системные требования Shadow of the Erdtree 15 ч.
«Базальт СПО» представила открытую библиотеку libdomain для управления службами каталогов 16 ч.
Президента Microsoft допросили в Конгрессе США после «каскада ошибок» в системе безопасности 18 ч.
На всех парах: Google запитает от геотермальной энергии ЦОД в Неваде 25 мин.
Intel поймала AMD на подтасовке результатов в ИИ-тестах EPYC против Xeon 11 ч.
Южнокорейские ИИ-стартапы Sapeon и Rebellions объединятся, чтобы вместе противостоять NVIDIA 12 ч.
Lian Li представила корпус O11 EVO RGB Automobili Lamborghini в стиле итальянских суперкаров 13 ч.
«Джеймс Уэбб» разглядел пару звёзд с газовыми шлейфами там, где учёные 50 лет видели лишь одну звезду 15 ч.
Марсоход Perseverance наткнулся на опасное поле валунов, но смог обогнуть его по руслу древней реки 16 ч.
Samsung Galaxy Z Fold6 показался на видео в форме макета — его сравнили с предшественником 17 ч.
Учёные облачили ДНК в искусственный янтарь — получилось сверхплотное и долговечное хранилище данных 17 ч.
Спрос на ЦОД в Азиатско-Тихоокеанском регионе значительно превышает предложение 19 ч.
Суд взыскал с производителя электроники «Ангстрем» более €1 млрд в пользу «ВЭБ.РФ» 19 ч.