Британский регулятор оштрафовал компанию Clearview AI за нелегальный сбор фото жителей Соединённого Королевства на £7,55 млн ($9,5 млн). Кроме того, ей придётся прекратить сбор сведений о жителях страны в социальных сетях и интернете в целом и удалить ранее собранные данные.

Источник изображения: Tumisu/pixabay.com

По словам представителей британских властей, компания не только обеспечивала идентификацию людей с помощью своего ПО, но и занималась мониторингом информации об их привычках, а также предлагала соответствующие данные на продажу.

Управление комиссара по информации Великобритании (ICO) начало совместное с австралийскими властями расследование в отношении Clearview AI в 2020 году и назначило «предварительный» штраф, эквивалентный $21,4 млн в прошлом. На тот момент ведомство сообщило, что база Clearview AI, судя по всему, включает данные существенного числа жителей Великобритании, многие из которых были собраны без их ведома и согласия с общедоступных площадок, включая социальные медиаплатформы.

В окончательном постановлении ICO отметило, что во всём мире компания незаконно собрала более 20 млрд изображений лиц для своей базы данных. И хотя она более не оказывает услуг британским организациям, у неё имеются клиенты в других странах, поэтому компания по-прежнему использует сведения о жителях Соединённого Королевства. В частности, Clearview AI продаёт приложение, позволяющее загружать чьё-либо фото для его последующей проверки по базе. Услугами компании пользуются многочисленные правоохранительные ведомства по всему миру, несмотря на то, что технология с точки зрения закона находится, как минимум, в «серой» зоне.

Twitter, Google и YouTube уже обратились к компании, заявив, что она нарушает условия пользования сервисами. Кроме того, Facebook* потребовала прекратить сбор информации. Компания уже получала жалобы от правозащитных групп в Европе и была оштрафована на 20 млн евро в Италии.

В США Американский союз гражданских свобод подавал в суд на Clearview AI за нарушение законов Иллинойса — недавно она пошла на сделку, обязавшись ограничить использование своей базы в этом штате. При этом компания продолжит предоставлять все доступные сведения федеральным правоохранительным ведомствам и властям других штатов.

* Внесена в перечень общественных объединений и религиозных организаций, в отношении которых судом принято вступившее в законную силу решение о ликвидации или запрете деятельности по основаниям, предусмотренным Федеральным законом от 25.07.2002 № 114-ФЗ «О противодействии экстремистской деятельности».

Компания Clearview AI сообщила о поиске инвесторов для реализации проекта по созданию крупнейшей базы данных, в которой будут храниться 100 млрд фотографий людей. Этого достаточно, чтобы идентифицировать лицо почти любого человека на Земле.

Источник изображения: clearview.ai

Как сообщает издание The Washington Post со ссылкой на презентацию компании перед инвесторами, все фотографии планируют собрать в течение года из открытых источников — сегодня на планете по некоторым оценкам живёт около 7,9 млрд человек.

Считается, что презентацию провели для привлечения дополнительных финансовых средств. Компания заявила, что уже собрала около 10 млрд изображений и добавляет по 1,5 млрд ежемесячно. От инвесторов требуется потратить на эту затею ещё $50 млн для того, чтобы добиться поставленной цели.

По данным издания, Clearview получает фотографии из социальных сетей и других веб-источников без уведомления как людей, так и сайтов, на которых размещены снимки. Известно, что Facebook*, Google, Twitter и YouTube уже потребовали от компании остановить сбор, но та отказалась пойти навстречу, заявив, что такое право защищено первой поправкой к Конституции США.

Более того, компания намерена расширять бизнес-модель, осваивая новые сферы и исследуя новые технологии вроде идентификации личности по походке, определения местоположения по фото или дистанционного сканирования отпечатков пальцев.

В Clearview заявили, что компания собирает данные так же, как это делает, например, Google, а её материалы используются для профилактики преступлений и борьбы с ними, в частности, поиска виновных. Пока в компании не решили, станут ли предоставлять сервис неправительственным организациям и компаниям. Сейчас данные получают только правительственные ведомства и их сотрудники. Утверждается, что технология способна спасти жизни, защитить от несправедливого обвинения невиновных и предотвратить неверную идентификацию в целом.

Источник изображения: clearview.ai

Известно, что полиция уже пользовалась базой Clearview для поиска и ареста совершивших преступления насильственного характера или подозреваемых в уничтожении чужой собственности в ходе недавних беспорядков в США. После восстания 6 января 2021 года в Вашингтоне Clearview AI сообщала, что её технологии использовались для идентификации захвативших Капитолий. «Отрадно, что решения Clearview AI использовались для идентификации повстанцев, атаковавших наш великий символ демократии», — заявил глава компании Хоан Тон-Тат (Hoan Ton-That).

Тем не менее, против Clearview уже поданы многочисленные иски. В частности, бизнес компании обвиняют в нарушении законодательства штата Иллинойс в связи со сбором изображений лиц жителей без их согласия. Федеральный судья отклонил ссылки юристов на первую поправку и постановил, что судебный процесс должен продолжиться.

Тем временем появились слухи о том, что Airbnb, Lyft и Uber уже «выразили интерес» к технологии Clearview, поскольку многие преступления связаны с использованием их платформ. Впрочем, как глава компании, так и партнёры отрицают планы сотрудничества.

* Внесена в перечень общественных объединений и религиозных организаций, в отношении которых судом принято вступившее в законную силу решение о ликвидации или запрете деятельности по основаниям, предусмотренным Федеральным законом от 25.07.2002 № 114-ФЗ «О противодействии экстремистской деятельности».

Стало известно, что Clearview AI намерена запатентовать свою технологию распознавания лиц в США. Согласно имеющимся данным, компания получила «уведомление о разрешении» Ведомства по патентам и товарным знакам США, в котором сказано, что официальные лица одобряют регистрацию системы распознавания лиц на основе искусственного интеллекта, использующей в работе фотографии из соцсетей и видео с камер видеонаблюдения.

Источник изображения: Gerd Altmann / Pixabay

Для получения патента Clearview всего лишь потребуется оплатить административный сбор. Сооснователь Clearview Хоан Тон-Тат (Hoan Ton-That) в беседе с журналистами заявил, что его компания станет первой, получившей патент в сфере распознавания лиц, связанный с «крупномасштабными интернет-данными». В настоящее время компания поставляет свою технологию государственным клиентам, в том числе правоохранительным органам. Можно предположить, что американские власти намерены дать Clearview возможность для дальнейшего роста, несмотря на то, что технология распознавания лиц компании неоднократно подвергалась критике со стороны специалистов и общественности.

Противники ИИ-системы Clearview опасаются, что компания работает над созданием баз данных с использованием изображений из общедоступных источников без ведома и разрешения их владельцев. Власти некоторых стран, таких как Австралия и Великобритания, считают, что распознавание лиц нарушает действующее законодательство. Теоретически технология Clearview может использоваться для подавления политического инакомыслия или преследования отдельных лиц. В Clearview заявили, что компания не планирует продавать свою технологию кому-либо, кроме государственных клиентов.

Разработчик системы распознавания лиц Clearview AI отныне будет предоставлять свои услуги только полиции и другим правоохранительным органам. Возможность распознавать лица людей при помощи базы данных из миллиардов собранных из социальных сетей фотографий была отобрана у многих банков, магазинов и других клиентов компании. Также Clearview AI аннулировала аккаунты всех организаций, зарегистрированных в американском штате Иллинойс.

Решение было принято в ходе начатого в январе 2020 года судебного разбирательства. Тогда житель штата Иллинойс Дэвид Мутник (David Mutnick) обвинил компанию в нарушении прав человека. Созданная ею технология распознавания лиц может распознать любого человека, найдя его фотографию в Facebook*, Twitter и других социальных сетях.

Компания всегда уверяла, что ее технология помогает полиции ловить опасных преступников и распознавать их жертв. Однако, в ходе многочисленных утечек данных выяснилось, что технологией пользуются и сторонние организации вроде Bank of America и торговой сети Walmart. Используя систему, они вполне могли искать должников и выполнять другие задачи, способствующие развитию их бизнеса.

«Мы аннулируем учётные записи каждого клиента, который не был связан ни с правоохранительными органами, ни с каким-либо другим федеральным, региональным или местным правительственным отделом. Также мы отключаем все учётные записи, принадлежащие любому лицу, находящемуся в Иллинойсе», — говорится в сообщении Clearview AI.

Решение об отключении аккаунтов жителей Иллинойса связано с тем, что в этом штате действует так называемый «Закон о конфиденциальности биометрической информации». Он запрещает компаниям использовать биометрические данные людей, вроде очертаний их лиц, без их согласия. По данным BuzzFeed, в штате Иллинойс с компанией Clearview AI сотрудничало не менее 105 компаний, но многие из них были хоть как-то связаны с правоохранительными органами. Тем не менее, аккаунты этих организаций тоже будут деактивированы.

В базе данных Clearview AI числится более 3 млрд фотографий

Также компания пообещала сделать так, чтобы созданный ею искусственный интеллект не собирал из социальных сетей фотографии жителей Иллинойса. Система будет просто игнорировать контент с метаданными, в которых упоминается этот штат. Также Clearview AI намерена предоставить людям из любых стран возможность отказаться от упоминания в ее системе.

Компания Clearview AI подвергается большой критике со стороны общества. Чтобы хоть как-то повысить свою репутацию, ей как минимум необходимо усилить защиту хранимой у неё информации. На данный момент компания не может сохранить не то что чужие, но даже собственные данные. В апреле 2020 года специалист по компьютерной безопасности Моссаб Хуссейн (Mossab Hussein) обнаружил, что исходный код технологии распознавания лиц находится в открытом доступе и ее мог «украсть» любой желающий.

* Внесена в перечень общественных объединений и религиозных организаций, в отношении которых судом принято вступившее в законную силу решение о ликвидации или запрете деятельности по основаниям, предусмотренным Федеральным законом от 25.07.2002 № 114-ФЗ «О противодействии экстремистской деятельности».

Clearview AI, которая предоставляла услуги распознавания лиц, судят за посягательства на свободы и несанкционированный сбор личных данных. Также компания, собравшая 3 млрд идентифицированных фотографий, ранее допустила утечку данных. Но на этом история не закончилась — согласно новому отчёту TechCrunch, Clearview AI не в состоянии заботиться о безопасности даже собственных данных и технологий.

Из-за неправильной конфигурации сервера компания умудрилась раскрыть исходный код своей системы любому, у кого есть подключение к Интернету. Эту уязвимость обнаружил ведущий специалист по безопасности данных Моссаб Хуссейн (Mossab Hussein) дубайской фирмы SpiderSilk.

В облачном хранилище, которое из-за ошибки стало доступно любому, содержался исходный код, использовавшийся для компиляции ПО. Компания также хранила все свои приложения для Windows, Mac, iOS и Android на сервере, включая предварительные версии для разработчиков, используемые для тестирования. Также были открыты токены Clearview Slack, что позволяло злоумышленникам получать доступ к внутренним сообщениям компании без использования паролей.

Утечка также показала работу прототипа камеры Clearview Insight, которая с тех пор была снята с производства. Как показал ресурс TechCrunch в видео, SpiderSilk обнаружил в одном хранилище 70 000 видеороликов, снятых с камеры Insight, установленной в жилом здании на Манхэттене. Компания заявила, что собрала определённое количество необработанного видео исключительно для целей отладки, с разрешения руководства здания.

ИИ распознавания лиц от Clearview может идентифицировать человека, используя данные из Facebook*, Instagram* и других общедоступных интернет-сервисов. Алгоритм получает эти данные, осуществляя поиск по миллиардам фотографий с сайтов социальных сетей и других источников. Компания продаёт свои услуги правоохранительным органам и другим предприятиям, которые могут использовать информацию для идентификации человека, просто загрузив его фото.

John Lund / Getty Images

Исполнительный директор Clearview AI Хоан Тон-То (Hoan Ton-That) выступал в защиту практик своей компании, заявив, что она может хранить любую общедоступную информацию, как это делает Google и другие технологические гиганты. Однако проблемы с безопасностью в таких случаях поднимают вопросы к деятельности компании.

* Внесена в перечень общественных объединений и религиозных организаций, в отношении которых судом принято вступившее в законную силу решение о ликвидации или запрете деятельности по основаниям, предусмотренным Федеральным законом от 25.07.2002 № 114-ФЗ «О противодействии экстремистской деятельности».

Стартап Clearview AI использует свои алгоритмы машинного обучения для распознавания лиц и уже собрал базу данных из более чем трёх миллиардов фотографий, как заявляется, из открытых источников вроде Facebook*, YouTube и Twitter. И теперь компания не только стала целью судебных разбирательств, но и попала в скандал с утечкой данных.

Как сообщается, серверы компании не были взломаны, но произошла утечка списка клиентов. Большинство из них — это правоохранительные органы США, которые используют программное обеспечение и базу данных Clearview AI для выявления подозреваемых.

Накопление гигантских массивов разносторонних структурированных данных без согласия пользователей вызывает обеспокоенность с точки зрения конфиденциальности. Иск против компании, о котором мы писали, уже приобрёл статус коллективной жалобы.

Clearview AI поспешила уверить через BBC News, что инцидент не должен вызывать беспокойства: «Безопасность — главный приоритет Clearview. К сожалению, утечка данных является неотъемлемой частью жизни в XXI веке. Наши серверы никогда не подвергались взлому. Мы исправили имевшийся изъян и продолжаем работать над укреплением нашей безопасности».

В Daily Beast также было сообщено, что нарушитель, получивший несанкционированный доступ к списку клиентов, не использовал противозаконные методы. Правда, этот факт вызывает ещё большее недоверие к уровню используемой защиты.

Главный аналитик охранной компании Synopsys Тим Маккей (Tim Mackey) сказал: «Хотя их юрист справедливо заявляет, что взлом данных является обыденностью в современном обществе, характер бизнеса Clearview AI усугубляет последствия таких атак. Системы распознавания лиц серьёзно развились и способны быстро идентифицировать человека. Но объединение данных визуальной идентификации с другими источниками, вроде социальных сетей, позволяет задействовать широкий контекст и получить детальный профиль пользователя, и всё без явного согласия человека, чьё лицо отслеживается».

В прошлом месяце расследование New York Times показало, что фотографии остались в базе данных Clearview AI даже после того, как пользователи удалили их из своих учётных записей в социальных сетях. Twitter, YouTube и Facebook* потребовали от Clearview AI прекратить использование фотографий, размещённых на их платформах. А американский сенатор Рон Уайден (Ron Wyden) написал в Twitter, что деятельность Clearview вызывает чрезвычайную тревогу и добавил: «Американцы имеют право знать, закачиваются ли их личные фотографии в частную базу данных для распознавания лиц».

Но генеральный директор Clearview AI Хоан Тон-То (Hoan Ton-That) сказал в программе CBS This Morning, что право собирать публичные фотографии ему даёт Первая поправка — или, скорее, её вольная трактовка.

* Внесена в перечень общественных объединений и религиозных организаций, в отношении которых судом принято вступившее в законную силу решение о ликвидации или запрете деятельности по основаниям, предусмотренным Федеральным законом от 25.07.2002 № 114-ФЗ «О противодействии экстремистской деятельности».

Всего две недели назад Facebook* согласилась выплатить $550 млн для урегулирования коллективного иска жителей штата Иллинойс, которые обвинили компанию в незаконном сборе и хранении биометрических данных. Теперь спорный стартап Clearview AI, который признал, что собирает и анализирует данные миллионов людей, является целью нового группового судебного процесса, ссылающегося на подобные нарушения.

Stegerphoto / Getty Images

Clearview AI набрала обороты: бизнес-модель, по-видимому, основана на массовом злоупотреблении публичными данными из Twitter, Facebook*, Instagram* и других открытых источников. Если лицо пользователя видно веб-поисковику или общедоступному API, Clearview либо уже заполучило его, либо стремится получить, чтобы передать на анализ с помощью систем распознавания лиц.

Есть лишь одна проблема: это незаконно в Иллинойсе, и игнорировать положение можно только на свой страх и риск, как уже выяснила Facebook*.

Мы уже писали, что против Clearview AI в январе был подан одиночный иск, но человек при поддержке одного из сенаторов добивался приданию делу статуса коллективной жалобы.

В иске, поданном на днях уже от имени нескольких граждан Иллинойса утверждается, что Clearview AI активно собирала, хранила и использовала биометрические данные истцов, как и биометрические данные большинства жителей Иллинойса, причём без уведомления людей, без получения их письменного согласия или без публикации правил хранения данных. Мало того, эти биометрические данные были использованы многими правоохранительными органами, в том числе в самом Иллинойсе.

Все это, как утверждается, нарушает Закон о конфиденциальности биометрической информации от 2008 года, который оказался удивительно дальновидным и устойчивым к попыткам индустрии (в том числе, по-видимому, Facebook*, когда она защищалась в суде), изменить его.

Судебный иск (поданный в Нью-Йорке, где базируется Clearview) находится на самой ранней стадии, однако повестки уже были направлены в Clearview и CDW Government, посреднику по продаже услуг и правоохранительным органам. Невозможно сказать, как всё обернётся в этот раз, но успех дела Facebook* и сходство двух случаев (по сути, автоматическое и тайное использование фотографий с помощью механизма распознавания лиц) предполагают, что шансы на успех у истцов имеются. Сумму штрафа, впрочем, предугадать невозможно.

* Внесена в перечень общественных объединений и религиозных организаций, в отношении которых судом принято вступившее в законную силу решение о ликвидации или запрете деятельности по основаниям, предусмотренным Федеральным законом от 25.07.2002 № 114-ФЗ «О противодействии экстремистской деятельности».