В октябре прошлого года муниципальные органы власти Нью-Йорка запустили на официальном портале MyCity чат-бота на основе искусственного интеллекта (ИИ), разработанного с использованием платформы Azure AI корпорации Microsoft. Этот инструмент был задуман как средство быстрого доступа к необходимой информации для местного бизнеса. Несмотря на благие намерения, сервис столкнулся с серьёзной проблемой недостоверности предоставляемых данных.

Источник изображения: AMRULQAYS / Pixabay

По результатам проверки, проведённой аналитиками из The Markup, выяснилось, что ИИ-чат-бот даёт неверную информацию по широкому спектру вопросов, затрагивающих жилищную политику и права работников. В частности, на вопрос о возможности отказа от наличных расчётов в магазине чат-бот ответил утвердительно, несмотря на то, что законодательство Нью-Йорка запретило практику полностью безналичных расчётов в магазинах ещё в 2020 году.

Система также неверно информировала пользователей о требованиях к арендодателям относительно принятия ваучеров Section 8 и о законности удержания чаевых работодателями. Особенно тревожным является факт, что при повторных запросах на один и тот же вопрос нью-йоркский чат-бот мог давать разные ответы, что свидетельствует о недостаточной надёжности системы в целом.

Чат-бот функционирует на основе ИИ, разработанного Microsoft и используемого в широком спектре приложений, включая сервисы таких компаний, как Reddit и AT&T. Нестабильность ответов, предоставляемых чат-ботом, подчёркивает необходимость всестороннего тестирования ИИ-систем перед их внедрением в общественные сервисы, чтобы обеспечить их способность предоставлять актуальную и точную информацию.

Нью-йоркская полиция намерена вернуть в строй четвероногих роботов. Почти два года назад такой робот был снят с дежурства из-за негативной реакции общественности. По словам мэра мегаполиса Эрика Адамса (Eric Adams), модель Digidog на основе известного робота Spot от Boston Dynamics снова появится на улицах, поскольку его использование «может спасти жизни».

Источник изображения: Jeenah Moon/The New York Times

Предполагается, что робот Digidog сможет работать в условиях, представляющих угрозу для людей — например, проводить оценку ситуации в опасных зонах и на строительных площадках. В 2020 году полиция Нью-Йорка применяла Digidog для разведки в случае, когда стрелок забаррикадировался в одном из зданий. Также в 2021 году робот применялся во время инспекции дома, в который вторглись преступники. После того как власти начали критиковать за слежку и чрезмерное вооружение полиции, последняя быстро разорвала контракт с Boston Dynamics.

Известно, что новую инициативу мэра Адамса уже осудила группа правозащитников Surveillance Technology Oversight Project (STOP), заявив, что нью-йоркская полиция претворяет в жизнь плохую научную фантастику. Как заявляют в организации, «Нью-Йорк заслуживает настоящей безопасности, а не поддельного робокопа», и вся инициатива является бесполезной тратой бюджетных средств для нарушения прав жителей города на частную жизнь. Власти Нью-Йорка в ответ заявили, что приобретут две робособаки общей стоимостью $750 тыс. и те будут использоваться только в ситуациях с реальным риском для жизней людей, например — при угрозе взрыва. «Несколько шумных людей выступили против технологии и мы отступили — я действую не так. В своих действиях я исхожу из того, что лучше для города», — заявил Адамс.

Покупка Digidog вновь поднимает вопросы эффективности использования полицией бюджетных средств и эффекта, который могут оказать оснащённые камерами роботы на конфиденциальность пользователей и общественную безопасность. Помимо использования Digidog, мэр Адамс и полиция города анонсировали использование ещё двух технологий: устройств для стрельбы GPS-трекерами компании StarChase для применения во время погонь и робота K5 ASR компании Knightscope, который описывается как «полностью автономный робот для обеспечения уличной безопасности». По некоторым данным, он также будет использоваться для сбора данных о преступниках.

K5 ASR. Источник изображения: Jeenah Moon/The New York Times

В полиции Нью-Йорка заявили, что развёртывание и использование технологий «будет прозрачным, последовательным и всегда будет осуществляться при сотрудничестве с людьми, которым мы служим». Кроме того, в полиции добавили, что ни Digidog, ни K5 ASR не будут использовать технологию распознавания лиц. Также они не будут вооружены. Пока неизвестны случаи, когда роботы Spot оснащались бы оружием — его использование стало бы нарушением условий, которые Boston Dynamics ставит перед покупателями. Впрочем, об использовании других «летальных» роботов американской полицией уже известно. Ещё в 2016 году робот взорвал подозреваемого в расстреле полицейских.