IBM клялась не разрабатывать системы распознавания лиц, но поступилась принципами за $70 млн

В 2020 году IBM на волне подъёма движения Black Lives Matter объявила об отказе продавать свою технологию распознавания лиц. Но вопреки своим собственным заявлениям компания заключила с британским правительством контракт на поставку такой системы, оцениваемый в $69,8 млн.

Источник изображения: Carson Masterson / unsplash.com

В июне 2020 года глава IBM Арвинд Кришна (Arvind Krishna) направил в американский Конгресс письмо, в котором, в частности, отметил: «IBM твердо выступает против и не станет одобрять использование каких-либо технологий, в том числе технологий распознавания лиц, предлагаемых другими поставщиками, для массовой слежки, составления профилей на основе расовой принадлежности, нарушения основных прав и свобод человека или любых целей, не соответствующих нашим ценностям и „Принципам доверия и прозрачности”». Впоследствии компания пошла дальше и призвала к введению в США норм экспортного контроля, которые не позволили бы применять системы распознавания лиц «для подавления инакомыслия, ущемления прав меньшинств или стирания основных запросов на конфиденциальность» даже за рубежом.

Тем не менее, в августе 2023 года IBM заключила с британским правительством контракт на сумму £54,7 млн ($69,8 млн) на разработку национальной биометрической платформы с функцией распознавания лиц, которой смогут пользоваться правоохранительные органы и иммиграционная служба, узнали журналисты американского ресурса The Verge и британской организации журналистских расследований Liberty Investigates. На начальных этапах Платформа сопоставления биометрии МВД (Home Office Biometrics Matcher Platform) Великобритании предусматривает функцию сопоставления отпечатков пальцев, а на более поздних уже предусматривает внедрение системы распознавания лиц для иммиграционной службы — в документах она описывается как «средство стратегического сопоставления лиц для правоохранительных органов». На финальных стадиях проекта речь идёт о функции «сопоставления лиц для использования правоохранительными органами».

Иными словами, речь идёт о сопоставлении фотографий людей с изображениями из базы данных — это называется системой сопоставления типа «один ко многим». В сентября 2020 года IBM напрямую указывала, что системы сопоставления «один ко многим» являются «типом технологии распознавания лиц, который, скорее всего, будет использоваться для массовой слежки, создания профилей на основе расовой принадлежности и прочих нарушений прав человека».

Источник изображения: Tumisu / pixabay.com

В IBM противоречия своих действий собственным заявлениям, кажется, не усматривают. Представитель компании Имтиаз Муфти (Imtiaz Mufti), в частности, заявил: «В соответствии с нашими обязательствами от 2020 года IBM более не предлагает [систем] распознавания лиц общего назначения, не поддерживает использования [систем] распознавания лиц для массового наблюдения, создания профилей на основе расовой принадлежности или прочих нарушений прав человека. <..> Платформа сопоставления биометрии МВД и контракт на связанные с ней услуги не используются для массового наблюдения. Она помогает полиции и иммиграционным службам идентифицировать подозреваемых по базе данных отпечатков и по данным фотографий. Она не способна производить захват видео, который обычно необходим для поддержки снятия биометрии у „лиц в толпе”».

Правозащитники раскритиковали позицию IBM, подчеркнув, что системы распознавания лиц типа «один ко многим» несовместимы с законами о правах человека, и компании следует в соответствии со своими заявлениями прекратить их продажи. Применение полицией подобных систем связывают с неправомерными арестами в США, а в Великобритании его правомерность оспаривалась в суде, напомнили The Verge и Liberty Investigates. В августе 2020 года Апелляционный суд Великобритании постановил, что применение полицией Южного Уэльса системы распознавания лиц нарушает право на неприкосновенность частной жизни и законы о равенстве. После вынесения этого решения полиция приостановила использование этой системы, но впоследствии к ней вернулась.

Моратории на продажи систем распознавания лиц полицейским управлениям США вслед за IBM ввели Amazon и Microsoft. В июне 2020 года был введён однолетний мораторий на продажу полиции системы Amazon Rekognition с намерением впоследствии продлить его на «неопределённый срок» — пресс-секретарь Amazon подтвердила, что он всё ещё действует. Тогда же, в июне 2020 года, Microsoft заявила, что также не станет продавать ПО для распознавания лиц полицейским управлениям США до тех пор, пока не выйдет федеральный закон, регулирующий использование этой технологии. В ответ на запрос The Verge и Liberty Investigates представитель Microsoft сослалась на информацию с сайта компании, где явно указано, что применение сервиса Azure AI Face «полицией штата или муниципальной полицией в США или для них запрещено политикой Microsoft». МВД Великобритании на запрос не ответило.