Теги → лица
Быстрый переход

Система распознавания лиц привела ко второму незаконному аресту в Детройте

Ложное совпадение в системе распознавания лиц привело к аресту ещё одного непричастного человека. По данным Detroit Free Press, полиция города арестовала мужчину за то, что якобы он залез в машину, взял телефон и бросил его, сломал корпус и повредил экран.

KENGKAT via Getty Images

KENGKAT via Getty Images

Система распознавания лиц пометила Майкла Оливера (Michael Oliver) в качестве подозреваемого, а жертва указала на него среди фотографий людей, похожих на подозреваемого. Оливеру было предъявлено обвинение в совершении уголовного преступления в связи с инцидентом в мае 2019 года. Он сказал, что не совершал преступления, и доказательства подтвердили его слова.

Преступник, который был записан на телефон, не похож на Оливера. Во-первых, у него на руках татуировки, а у человека на видео их нет. Когда адвокат Оливера привёл эти и другие доказательства жертве и помощнику прокурора, они согласились, что обвиняемый был опознан неправильно. Судья позже закрыл дело.

Технология распознавания лиц использовалась в деле Оливера до вступления в силу новых правил. Детройтская полиция теперь может использовать технологию только для расследования насильственных преступлений. Главный прокурор округа Уэйн также пересмотрит дела, в которых использовалась технология распознавания лиц.

Это не единственный случай, когда офицеры Детройта неправомерно арестовывают кого-то после ошибочного совпадения. В одном из громких дел в начале этого года они задержали Роберта Уильямса (Robert Williams) почти на 30 часов за преступление, которое он не совершал. Пока это два известных в США случая неправомерных арестов, связанных с ложными совпадениями в системе распознавания лиц.

Интересно, что Оливер и Уильямс оба чернокожие. Исследования показывают, что технологии распознавания лиц обычно хуже работают в случае с чернокожими людьми. Многие правозащитники настаивают, что новых правил детройтской полиции недостаточно, и необходимо полностью прекратить использование этой технологии правоохранительными органами, пока не будет разработан механизм минимизации вреда от её применения.

Некоторые технологические компании, которые работали над системами распознавания лиц, пересмотрели свои позиции в этом вопросе. IBM заявила, что больше не будет развивать распознавание лиц «общего назначения» из-за проблем с правами человека. Amazon приостановила взаимодействие с полицией в рамках Rekognition. А Microsoft пообещала не продавать свою технологию распознавания лиц отделам полиции, пока не появятся федеральные правила, «основанные на правах человека».

Ошибка системы распознавания лиц впервые привела к аресту невиновного

Использование полицейской системы распознавания лиц, основанной на алгоритмах искусственного интеллекта, впервые привело к аресту невиновного человека. Она спутала его с настоящим преступником.

По данным издания The New York Times, полицейские американского города Детройт в январе этого года задержали для проверки некоего Роберта Джулиана-Борчака Уильямса (Robert Julian-Borchak Williams). После того как Уильямса доставили в полицейский участок, его арестовали, потому что система распознавания лиц определила в нём преступника, который в 2018 году совершил магазинную кражу. Как выяснилось позже, система на базе ИИ-алгоритмов совершила ошибку, но Уильямсу всё равно пришлось провести 30 часов за решёткой, пока полицейские не разобрались в ситуации.

Противники систем распознавания лиц уже долгое время утверждают, что данная технология ещё недостаточно совершенна для точного поиска и определения преступников. Сами разработчики подобных систем не раз предостерегали органы правопорядка от их использования в качестве единственного надёжного доказательного инструмента для задержания. Но как оказалось, в случае с Уильямсом данная система стала единственным «доказательством» в пользу ареста невиновного человека.

Примечательно, что программное обеспечение для идентификации лиц, которое использовалось детройтской полицией вместе с результатами проверки Уильямса, вывело следующее сообщение: «Этот документ не является положительным идентификатором. Он представляет собой только следственную версию и не является основанием для задержания».

После внесения залога Уильямса отпустили, а когда разобрались в ситуации — даже извинились. Но этот случай создал прецедент, который указывает на гораздо более обширную проблему — всецело доверять алгоритмам искусственного интеллекта пока нельзя.

«Я серьёзно подозреваю, что это не первый случай ошибки системы, в результате которой был арестован человек, не совершавший преступления. Скорее всего, это всего лишь первый случай, когда об этом стало известно общественности», — подытожила адвокат Клер Гарви (Clare Garvie), к которой издание The New York Times обратилось за комментариями.

Microsoft тоже решила не продавать технологию распознавания лиц полиции США

Вслед за IBM и Amazon компания Microsoft сообщила о том, что накладывает мораторий на продажу своей технологии распознавания лиц в руки американской полиции. Об этом в разговоре с изданием The Washington Post заявил президент редмондского гиганта Брэдфорд Смит (Bradford Smith).

Он отметил, что Microsoft в настоящий момент не имеет планов по продаже этой технологии полицейским департаментам США. После этого Смит добавил, что ситуация не изменится, пока «не будет принят национальный закон, основанный на человеческом праве и регулирующий использование данной технологии».

Комментарии Смита последовали через день после того, как Amazon объявила о временном бойкоте системам распознавания лиц. Компания заявила, что на один год запрещает полицейским США использовать фирменную программу Rekognition для умного распознавания лиц, которую Amazon представила в 2016 году. Ещё несколькими днями ранее IBM выступила с заявлением, в котором сообщила, что выходит из бизнеса по разработке и продаже данной технологии.

В разговоре с американским изданием Смит выразил солидарность к своим коллегам, но также отметил о необходимости принятия Конгрессом США действий, которые не позволили бы занять эту технологическую нишу другим компаниям.

«Предпринятые IBM и Amazon меры очень важны. Очевидно, что на такой же шаг должны были пойти и мы. Но в то же время если все ответственные компании уступят этот рынок недобросовестным игрокам, то наши действия вряд ли смогут послужить национальным интересам или жизням темнокожего населения нашей страны. Необходимо, чтобы в дело вмешался Конгресс, а не только технологические компании. Это единственный способ, который позволит гарантировать обеспечение безопасности людей», — прокомментировал Смит.

Microsoft продвигает или скорее продвигала технологию распознавания лиц, как часть своей облачно-вычислительной платформы Azure. На официальном сайте указано, что разработчики могут использовать систему распознавания лиц в своих приложениях для обеспечения лёгкого и высокозащищённого пользовательского опыта. Технологией Microsoft пользуется, например, компания Uber. С помощью неё она идентифицирует водителей через свою базу данных.

Amazon забанила полицию США: правоохранителям на год запретили пользоваться программой распознавания лиц

В США дискриминация по расовому признаку стала наихудшим преступлением в истории страны. «Общественность» даже готова отобрать у полиции инструменты для расследования тяжких преступлений, если эти инструменты предполагают расовое, гендерное или другое неравенство. В частности, технология распознавания лиц часто даёт сбой при идентификации темнокожих людей. И технологические компании вынуждены на это реагировать.

На днях компания IBM заявила, что выходит из бизнеса по распознаванию лиц. Сегодня о временном бойкоте системам распознавания лиц объявила компания Amazon. Очередное убийство полицейскими темнокожего подозреваемого всколыхнуло Америку. Публичные покаяния способны снизить напряжённость в обществе. Системы поиска людей по лицам грозят нарушить приватность и привести к массовым злоупотреблениям. И это уже не говоря о том, что они дают сбой при идентификации людей с тёмной кожей.

В Amazon заявили, что на один год запрещают полицейским США использовать фирменную программу Rekognition для умного распознавания лиц. Программу Rekognition компания представила в 2016 году. Как она тогда сообщала, Rekognition способна не только идентифицировать конкретного человека по базе лиц, но даже может точно определить настроение человека по фотографии.

На тот момент компания не рассказала, каким службам и в какие департаменты она начала поставки Rekognition. Официально объявлено только об установке ПО по распознаванию лиц в Офисе шерифа округа Вашингтон в Орегоне. По слухам, Rekognition поставляется в Иммиграционную и таможенную службу в США и во многие (если не все) департаменты полиции, но компания отказывается раскрывать и даже комментировать детали. Поэтому масштаб запрета пользоваться полиции программой Rekognition совершенно непонятен.

Кстати, в прошлом году акционерам Amazon сообщили об исследовании Rekognition и о выводах, что ПО имеет «расовый и гендерный» уклоны. На это отреагировали только 2,4 % владельцев акций компании, которые потребовали запрета поставок Rekognition правоохранителям. Реакция тех, кто привык считать деньги и обычно отличается трезвым умом и ясной памятью, показательна и в пояснениях не нуждается.

Запрет на использование Rekognition не распространяется на те организации, которые занимаются поиском пропавших людей (воссоединением семей) и защитой жертв преступлений. Поставленная на год пауза на использование Rekognition полицией должна быть использована Сенатом США, считают в Amazon. Законодательные власти Америки должны, наконец-то, принять закон о правовом использовании систем распознавания лиц. Без этого дальнейшее внедрение таких технологий будет под запретом или проводиться нелегально, а такое часто вредит бизнесу.

IBM откажется от бизнеса по распознаванию лиц из-за риска расовой и этнической дискриминации

IBM планирует отказаться от предоставления услуг по распознаванию лиц. Об этом говорится в письме гендиректора компании Арвинда Кришны (Arvind Krishna) к Конгрессу США. Он также призвал к общенациональному диалогу по использованию подобных систем в правоохранительных органах.

«IBM решительно выступает против технологии распознавания лиц. Компания не будет потворствовать использованию подобных сервисов от других поставщиков, которые могут использоваться для массового наблюдения, расового профилирования, нарушений основных человеческих прав и других наших ценностей. Мы считаем, что сейчас самое время начать национальную дискуссию о применении технологии распознавания лиц в правоохранительных органах», — говорится в письме Кришны.

Использование систем отслеживания лиц остро ставит вопрос о конфиденциальности используемых данных. Кроме этого, эксперты обсуждают вопрос о возможном наличии расовых и этнических предрассудков систем при использовании машинного обучения.

Источник телеканала CNBC, знакомый с ситуацией, пояснил, что работа над инструментом по распознаванию лиц не принесла компании значительных доходов. Вероятно, что IBM решила отказаться от этой части бизнеса из-за деловых и этических принципов одновременно.

Система распознавания лиц Clearview AI стала недоступна для всех, кроме полиции

Разработчик системы распознавания лиц Clearview AI отныне будет предоставлять свои услуги только полиции и другим правоохранительным органам. Возможность распознавать лица людей при помощи базы данных из миллиардов собранных из социальных сетей фотографий была отобрана у многих банков, магазинов и других клиентов компании. Также Clearview AI аннулировала аккаунты всех организаций, зарегистрированных в американском штате Иллинойс.

Решение было принято в ходе начатого в январе 2020 года судебного разбирательства. Тогда житель штата Иллинойс Дэвид Мутник (David Mutnick) обвинил компанию в нарушении прав человека. Созданная ею технология распознавания лиц может распознать любого человека, найдя его фотографию в Facebook, Twitter и других социальных сетях.

Компания всегда уверяла, что ее технология помогает полиции ловить опасных преступников и распознавать их жертв. Однако, в ходе многочисленных утечек данных выяснилось, что технологией пользуются и сторонние организации вроде Bank of America и торговой сети Walmart. Используя систему, они вполне могли искать должников и выполнять другие задачи, способствующие развитию их бизнеса.

«Мы аннулируем учётные записи каждого клиента, который не был связан ни с правоохранительными органами, ни с каким-либо другим федеральным, региональным или местным правительственным отделом. Также мы отключаем все учётные записи, принадлежащие любому лицу, находящемуся в Иллинойсе», — говорится в сообщении Clearview AI.

Решение об отключении аккаунтов жителей Иллинойса связано с тем, что в этом штате действует так называемый «Закон о конфиденциальности биометрической информации». Он запрещает компаниям использовать биометрические данные людей, вроде очертаний их лиц, без их согласия. По данным BuzzFeed, в штате Иллинойс с компанией Clearview AI сотрудничало не менее 105 компаний, но многие из них были хоть как-то связаны с правоохранительными органами. Тем не менее, аккаунты этих организаций тоже будут деактивированы.

В базе данных Clearview AI числится более 3 млрд фотографий

В базе данных Clearview AI числится более 3 млрд фотографий

Также компания пообещала сделать так, чтобы созданный ею искусственный интеллект не собирал из социальных сетей фотографии жителей Иллинойса. Система будет просто игнорировать контент с метаданными, в которых упоминается этот штат. Также Clearview AI намерена предоставить людям из любых стран возможность отказаться от упоминания в ее системе.

Компания Clearview AI подвергается большой критике со стороны общества. Чтобы хоть как-то повысить свою репутацию, ей как минимум необходимо усилить защиту хранимой у неё информации. На данный момент компания не может сохранить не то что чужие, но даже собственные данные. В апреле 2020 года специалист по компьютерной безопасности Моссаб Хуссейн (Mossab Hussein) обнаружил, что исходный код технологии распознавания лиц находится в открытом доступе и ее мог «украсть» любой желающий.

Corsight AI, создавшая технологию распознавания лиц в масках, получила $5 млн инвестиций

Израильская компания Corsight AI получила $5 млн инвестиций от канадского фонда Awz Ventures, специализирующегося на технологиях разведки и безопасности. Компания разработала технологию распознавания лиц, скрытых под медицинскими и другими масками, а также солнцезащитными очками и пластиковыми щитками — весьма актуальные наработки в нынешних условиях, когда маски затрудняют работу систем слежения.

Reuters / Thomas Peter

Reuters / Thomas Peter

Как сообщил ресурс Reuters, Corsight заявила, что будет использовать полученные средства для продвижения собственной интеллектуальной платформы и продолжения разработок технологий продвинутого распознавания лиц людей. Corsight была основана в конце 2019 года в Тель-Авиве и насчитывает 15 сотрудников. Это дочерняя компания Cortica Group, которая привлекла более $70 млн для разработки технологий искусственного интеллекта.

Corsight отметила, что предлагает систему распознавания лиц, способную обрабатывать информацию, полученную с различных видеокамер. Она может решить проблемы, возникшие в результате вспышки COVID-19, когда значительная часть населения стала перемещается по улицам с частично закрытыми лицами.

John Lund / Getty Images

John Lund / Getty Images

По словам Corsight, эту технологию можно использовать для оповещения людей, которые нарушают условия карантина и выходят на улицу в общественных местах, прикрывая лица масками. Разработчики утверждают, что в случае обнаружения у человека COVID-19, система сможет быстро создать отчёт о людях, которые находились рядом с больным.

Corsight сообщает, что в европейских аэропортах и больницах, азиатских городах, южноамериканских полицейских управлениях и пограничных переходах, а также в африканских шахтах и банках установлены постоянные системы слежения, где может применяться их технология.

Кстати, в марте китайская Hanwang Technology тоже заявила, что разработала технологию, позволяющую распознавать людей в масках.

Вьетнамский производитель смартфонов научит их распознавать лица в масках

В условиях пандемии ношение медицинских масок в большинстве стран мира является обязательным, но это создаёт трудности не только для систем безопасности, но и для рядовых пользователей смартфонов — устройства не в силах опознать своих владельцев. Вьетнамский производитель VinSmart готов научить свои смартфоны справляться с этой проблемой.

Источник изображения: VinSmart

Источник изображения: VinSmart

Озабоченность наличием защитных масок на лицах граждан высказывали и китайские власти, которым пришлось в числе первых адаптировать алгоритмы распознавания лиц для контроля за перемещением жителей городов, оснащённых централизованной системой видеонаблюдения. Некоторые разработчики заявляли, что их алгоритмы почти не теряют в точности распознавания лиц при использовании защитных масок.

Вьетнамский производитель смартфонов VinSmart, как отмечает агентство Bloomberg, заявил о готовности бесплатно снабдить устройства данной марки новой версией приложения для распознавания лиц, которая корректно работает при наличии на лице владельца защитной маски. Программное обеспечение было усовершенствовано силами исследовательской лаборатории VinAI Research, которая входит в один с VinSmart вьетнамский конгломерат Vingroup. Функция разблокировки смартфона по лицу пользователя удобна в тех случаях, когда не срабатывает дактилоскопический датчик — при ношении перчаток, например. Наличие маски на лице теперь не станет помехой для корректной аутентификации пользователя. Когда усовершенствованное программное обеспечение доберётся до смартфонов VinSmart, не уточняется.

Эта музыка будет вечной: Clearview AI по ошибке раскрыла исходный код своего ПО для распознавания лиц

Clearview AI, которая предоставляла услуги распознавания лиц, судят за посягательства на свободы и несанкционированный сбор личных данных. Также компания, собравшая 3 млрд идентифицированных фотографий, ранее допустила утечку данных. Но на этом история не закончилась — согласно новому отчёту TechCrunch, Clearview AI не в состоянии заботиться о безопасности даже собственных данных и технологий.

Из-за неправильной конфигурации сервера компания умудрилась раскрыть исходный код своей системы любому, у кого есть подключение к Интернету. Эту уязвимость обнаружил ведущий специалист по безопасности данных Моссаб Хуссейн (Mossab Hussein) дубайской фирмы SpiderSilk.

В облачном хранилище, которое из-за ошибки стало доступно любому, содержался исходный код, использовавшийся для компиляции ПО. Компания также хранила все свои приложения для Windows, Mac, iOS и Android на сервере, включая предварительные версии для разработчиков, используемые для тестирования. Также были открыты токены Clearview Slack, что позволяло злоумышленникам получать доступ к внутренним сообщениям компании без использования паролей.

Утечка также показала работу прототипа камеры Clearview Insight, которая с тех пор была снята с производства. Как показал ресурс TechCrunch в видео, SpiderSilk обнаружил в одном хранилище 70 000 видеороликов, снятых с камеры Insight, установленной в жилом здании на Манхэттене. Компания заявила, что собрала определённое количество необработанного видео исключительно для целей отладки, с разрешения руководства здания.

ИИ распознавания лиц от Clearview может идентифицировать человека, используя данные из Facebook, Instagram и других общедоступных интернет-сервисов. Алгоритм получает эти данные, осуществляя поиск по миллиардам фотографий с сайтов социальных сетей и других источников. Компания продаёт свои услуги правоохранительным органам и другим предприятиям, которые могут использовать информацию для идентификации человека, просто загрузив его фото.

John Lund / Getty Images

John Lund / Getty Images

Исполнительный директор Clearview AI Хоан Тон-То (Hoan Ton-That) выступал в защиту практик своей компании, заявив, что она может хранить любую общедоступную информацию, как это делает Google и другие технологические гиганты. Однако проблемы с безопасностью в таких случаях поднимают вопросы к деятельности компании.

Microsoft прекратит инвестировать в фирмы по распознаванию лиц после скандала с израильской AnyVision

Microsoft заявила, что больше не будет инвестировать в сторонние компании, занимающиеся технологиями распознавания лиц, после скандала вокруг её вложений в израильский стартап AnyVision. По словам критиков и правозащитников, AnyVision активно применяла своё ПО для слежки за палестинцами на Западном берегу реки Иордан в пользу израильского правительства.

Brian Stauffer / NBC News

Brian Stauffer / NBC News

Теперь Microsoft заявила, что независимое расследование, проведённое бывшим генеральным прокурором США Эриком Холдером (Eric Holder) и его командой из международной юридической фирмы Covington & Burling, показало, что технология AnyVision ранее не применялась и сейчас не используется в программе массового наблюдения на Западном берегу. В противном случае это бы нарушало обязательства по этическому использованию технологии распознавания лиц, которые вязала на себя AnyVision при получении инвестиций от Microsoft.

Несмотря на это, Microsoft заявила, что отказывается от вложений в AnyVision и больше не будет делать миноритарные вклады в любые сторонние фирмы, занимающиеся распознаванием лиц. Программный гигант объяснил это сложностями контроля миноритарных акционеров за компаниями.

«Благодаря глобальному изменению своей инвестиционной политики, направленному на прекращение миноритарных инвестиций в компании, продающие технологии распознавания лиц, Microsoft перешла к коммерческим отношениям, которые дают Microsoft больше контроля и надзора над использованием чувствительных технологий», — написала компания среди прочего.

The Verge

The Verge

Хотя Microsoft отказывается от финансирования фирм по распознаванию лиц, у неё всё ещё остаётся собственная аналогичная технология, реализованная через платформу облачных вычислений Azure. API Face позволяет любому разработчику встроить распознавание лиц в свои приложения для беспроблемного и надёжного взаимодействия с пользователем. Однако в прошлом году президент и главный юрисконсульт компании Брэд Смит (Brad Smith) заявил, что Microsoft никогда не будет продавать распознавание лиц в целях наблюдения и не будет предоставлять доступ правоохранительным органам к этой технологии из-за опасений нарушения прав людей.

Но означает ли новая инвестиционная позиция Microsoft, что она всё ещё может поглощать или становиться мажоритарным акционером в компаниях, занимающихся распознаванием лиц, пока неясно.

Коронавирус слежке не помеха: в Китае создали систему распознавания лиц в медицинских масках

Китайская компания Hanwang (Hanvon) Technology из Пекина заявила, что разработала первую в стране технологию распознавания лиц, которая может идентифицировать людей, даже когда они носят медицинскую маску, как это происходит в наши дни из-за коронавируса. Это призвано помочь в борьбе с COVID-19.

Reuters / Thomas Peter

Reuters / Thomas Peter

Китай использует некоторые из самых сложных в мире систем электронного наблюдения, включая распознавание лиц. Но коронавирус, который появился в провинции Хубэй в конце прошлого года, привёл к тому, что порой большинство людей на открытом воздухе носили медицинские маски в надежде снизить вероятность заражения вирусом. Теперь Hanwang Technology, которая также носит английское название Hanvon, заявила, что разработала технологию, которая может успешно распознавать людей, даже когда они носят маски.

Reuters / Thomas Peter

Reuters / Thomas Peter

«При подключении к датчику температуры система может измерять температуру тела, идентифицируя имя человека, а затем обрабатывать результат, скажем, если обнаружит температуру выше 38 градусов», — сказал в беседе с Reuters вице-президент Hanwang Хуан Лей (Huang Lei).

Reuters / Thomas Peter

Reuters / Thomas Peter

Пекинская фирма сообщила, что при создании технологии команда из 20 человек использовала базовые методы распознавания, разработанные за последние 10 лет, базу данных образцов из примерно 6 миллионов лиц без масок и гораздо меньшую базу данных лиц в масках. Команда начала работу над системой в январе, когда вспышка коронавируса набрала набирать обороты, и начала её развёртывать уже через месяц мосле этого.

Компания продаёт два основных типа продуктов, использующих технологию. Один выполняет «одноканальное» распознавание — его лучше всего использовать, например, на входах в офисные здания. Другой, более мощный продукт представляет собой «многоканальную» систему распознавания, в которой используются сразу несколько камер наблюдения.

Reuters / Thomas Peter

Reuters / Thomas Peter

«При ношении маски уровень распознавания лиц, как утверждается, может достигать около 95 %, то есть большинство людей могут быть точно идентифицированы», — отметил господин Хуан, добавив, что аналогичные показатели для лиц без масок составляют 99,5 %. Крупным заказчиком таких систем выступает Министерство общественной безопасности, которое управляет полицией. Технология может использоваться для выявления подозреваемых и террористов.

Reuters / Thomas Peter

Reuters / Thomas Peter

Сейчас у компании насчитывается около 200 клиентов в Пекине, которые используют продвинутую систему распознавания лиц, а в ближайшее время начнётся развёртывание в 20 провинциях. Hanwang считает, что технология будет полезна не только в Китае, но и по всему миру.

Reuters / Thomas Peter

Reuters / Thomas Peter

«Одноклассники» теперь используют распознавание лиц для восстановления аккаунта

Социальная сеть «Одноклассники» добавила функцию восстановления учётной записи с помощью распознавания лица. Пока что это возможность работает только на мобильной платформе Android, хотя в ближайшее время ожидается появление аналога и на iOS. О возможности появления такой функции на ПК не говорится.

tjournal.ru

tjournal.ru

В соцсети заявили, что использование распознавания внешности позволяет восстановить аккаунт куда быстрее, чем ранее. Ведь теперь не надо переписываться с техподдержкой, фотографировать себя и ждать результата.

В нынешней версии есть ограничения. Система работает, если в аккаунте пользователя есть фото, которые можно использовать в качестве эталона для распознавания. При этом в «Одноклассниках» отметили, что алгоритм ещё обучается, а в процессе принимают участие операторы. Также, по словам представителей сервиса, 60 % пользователей предпочли восстановить страницу по фото, а не обращаться в поддержку.

Технология распознавания внешности основана на собственных разработках. А подобные технологии уже несколько лет развивают внутри платформы. В частности, за последние два года появилась функция автоматических отметок друзей на фотографиях, видео и в прямых эфирах.

Не сообщается, будет ли система позволять в будущем авторизацию по внешности, однако не исключено, что и такое появится рано или поздно.

Clearview AI, собравшая 3 млрд идентифицированных фотографий, допустила утечку данных

Стартап Clearview AI использует свои алгоритмы машинного обучения для распознавания лиц и уже собрал базу данных из более чем трёх миллиардов фотографий, как заявляется, из открытых источников вроде Facebook, YouTube и Twitter. И теперь компания не только стала целью судебных разбирательств, но и попала в скандал с утечкой данных.

Как сообщается, серверы компании не были взломаны, но произошла утечка списка клиентов. Большинство из них — это правоохранительные органы США, которые используют программное обеспечение и базу данных Clearview AI для выявления подозреваемых.

Накопление гигантских массивов разносторонних структурированных данных без согласия пользователей вызывает обеспокоенность с точки зрения конфиденциальности. Иск против компании, о котором мы писали, уже приобрёл статус коллективной жалобы.

Clearview AI поспешила уверить через BBC News, что инцидент не должен вызывать беспокойства: «Безопасность — главный приоритет Clearview. К сожалению, утечка данных является неотъемлемой частью жизни в XXI веке. Наши серверы никогда не подвергались взлому. Мы исправили имевшийся изъян и продолжаем работать над укреплением нашей безопасности».

В Daily Beast также было сообщено, что нарушитель, получивший несанкционированный доступ к списку клиентов, не использовал противозаконные методы. Правда, этот факт вызывает ещё большее недоверие к уровню используемой защиты.

Главный аналитик охранной компании Synopsys Тим Маккей (Tim Mackey) сказал: «Хотя их юрист справедливо заявляет, что взлом данных является обыденностью в современном обществе, характер бизнеса Clearview AI усугубляет последствия таких атак. Системы распознавания лиц серьёзно развились и способны быстро идентифицировать человека. Но объединение данных визуальной идентификации с другими источниками, вроде социальных сетей, позволяет задействовать широкий контекст и получить детальный профиль пользователя, и всё без явного согласия человека, чьё лицо отслеживается».

В прошлом месяце расследование New York Times показало, что фотографии остались в базе данных Clearview AI даже после того, как пользователи удалили их из своих учётных записей в социальных сетях. Twitter, YouTube и Facebook потребовали от Clearview AI прекратить использование фотографий, размещённых на их платформах. А американский сенатор Рон Уайден (Ron Wyden) написал в Twitter, что деятельность Clearview вызывает чрезвычайную тревогу и добавил: «Американцы имеют право знать, закачиваются ли их личные фотографии в частную базу данных для распознавания лиц».

Но генеральный директор Clearview AI Хоан Тон-То (Hoan Ton-That) сказал в программе CBS This Morning, что право собирать публичные фотографии ему даёт Первая поправка — или, скорее, её вольная трактовка.

Власти Москвы задействовали систему распознавания лиц для контроля ситуации с коронавирусом

Развёрнутую в Москве систему видеонаблюдения с функцией распознавания лиц задействовали для мониторинга прибывших из Китая граждан и контроля ситуации с коронавирусом. Об этом на своём личном сайте сообщил мэр столицы Сергей Собянин.

Источник фото: mos.ru

Источник фото: mos.ru

По словам градоначальника, с помощью автоматизированных систем распознавания лиц и других технических мер обеспечивается наблюдение за гражданами, направленными на 14-дневный карантин после возвращения из Китая. Посредством видеоаналитики удастся отследить, покидал ли своё место жительства потенциальный больной и с кем встречался. Утверждается, что свою эффективность система показала на примере гражданки КНР, которая нарушила режим двухнедельной изоляции по месту пребывания. Благодаря записям с видеокамер удалось оперативно собрать сведения обо всех лицах, с кем она общалась, и принять соответствующие профилактические меры.

Источник фото: mos.ru

Источник фото: mos.ru

В настоящий момент в Москве в рамках государственной программы «Умный город» установлены 175 тысяч камер видеонаблюдения: во дворах, в подъездах, зданиях общественных учреждений, в местах массового скопления людей. Сигнал с них поступает в Единый центр хранения и обработки данных. К этой системе также подключены камеры транспортной инфраструктуры (дорожные камеры, МЦК, остановки, железнодорожные вокзалы), камеры объектов культуры (парки, музеи), камеры спортивных и других объектов.

Городская система видеонаблюдения помогает правоохранительным органам бороться с преступностью. Видеозаписи используются в расследовании порядка 70 процентов правонарушений, говорится в заявлении пресс-службы мэра Москвы.

Иск против Clearview AI получил групповой статус, компании грозит штраф вслед за Facebook за распознавание лиц

Всего две недели назад Facebook согласилась выплатить $550 млн для урегулирования коллективного иска жителей штата Иллинойс, которые обвинили компанию в незаконном сборе и хранении биометрических данных. Теперь спорный стартап Clearview AI, который признал, что собирает и анализирует данные миллионов людей, является целью нового группового судебного процесса, ссылающегося на подобные нарушения.

Stegerphoto / Getty Images

Stegerphoto / Getty Images

Clearview AI набрала обороты: бизнес-модель, по-видимому, основана на массовом злоупотреблении публичными данными из Twitter, Facebook, Instagram и других открытых источников. Если лицо пользователя видно веб-поисковику или общедоступному API, Clearview либо уже заполучило его, либо стремится получить, чтобы передать на анализ с помощью систем распознавания лиц.

Есть лишь одна проблема: это незаконно в Иллинойсе, и игнорировать положение можно только на свой страх и риск, как уже выяснила Facebook. 

Мы уже писали, что против Clearview AI в январе был подан одиночный иск, но человек при поддержке одного из сенаторов добивался приданию делу статуса коллективной жалобы.

В иске, поданном на днях уже от имени нескольких граждан Иллинойса утверждается, что Clearview AI активно собирала, хранила и использовала биометрические данные истцов, как и биометрические данные большинства жителей Иллинойса, причём без уведомления людей, без получения их письменного согласия или без публикации правил хранения данных. Мало того, эти биометрические данные были использованы многими правоохранительными органами, в том числе в самом Иллинойсе.

Все это, как утверждается, нарушает Закон о конфиденциальности биометрической информации от 2008 года, который оказался удивительно дальновидным и устойчивым к попыткам индустрии (в том числе, по-видимому, Facebook, когда она защищалась в суде), изменить его.

Судебный иск (поданный в Нью-Йорке, где базируется Clearview) находится на самой ранней стадии, однако повестки уже были направлены в Clearview и CDW Government, посреднику по продаже услуг и правоохранительным органам. Невозможно сказать, как всё обернётся в этот раз, но успех дела Facebook и сходство двух случаев (по сути, автоматическое и тайное использование фотографий с помощью механизма распознавания лиц) предполагают, что шансы на успех у истцов имеются. Сумму штрафа, впрочем, предугадать невозможно.

window-new
Soft
Hard
Тренды 🔥