Сегодня 02 апреля 2025
18+
MWC 2018 2018 Computex IFA 2018
реклама
Теги → нью-йорк

ИИ-чат-бот властей Нью-Йорка оказался обманщиком

В октябре прошлого года муниципальные органы власти Нью-Йорка запустили на официальном портале MyCity чат-бота на основе искусственного интеллекта (ИИ), разработанного с использованием платформы Azure AI корпорации Microsoft. Этот инструмент был задуман как средство быстрого доступа к необходимой информации для местного бизнеса. Несмотря на благие намерения, сервис столкнулся с серьёзной проблемой недостоверности предоставляемых данных.

 Источник изображения: AMRULQAYS / Pixabay

Источник изображения: AMRULQAYS / Pixabay

По результатам проверки, проведённой аналитиками из The Markup, выяснилось, что ИИ-чат-бот даёт неверную информацию по широкому спектру вопросов, затрагивающих жилищную политику и права работников. В частности, на вопрос о возможности отказа от наличных расчётов в магазине чат-бот ответил утвердительно, несмотря на то, что законодательство Нью-Йорка запретило практику полностью безналичных расчётов в магазинах ещё в 2020 году.

Система также неверно информировала пользователей о требованиях к арендодателям относительно принятия ваучеров Section 8 и о законности удержания чаевых работодателями. Особенно тревожным является факт, что при повторных запросах на один и тот же вопрос нью-йоркский чат-бот мог давать разные ответы, что свидетельствует о недостаточной надёжности системы в целом.

Чат-бот функционирует на основе ИИ, разработанного Microsoft и используемого в широком спектре приложений, включая сервисы таких компаний, как Reddit и AT&T. Нестабильность ответов, предоставляемых чат-ботом, подчёркивает необходимость всестороннего тестирования ИИ-систем перед их внедрением в общественные сервисы, чтобы обеспечить их способность предоставлять актуальную и точную информацию.

Полиция Нью-Йорка вернёт на службу робособаку Digidog от Boston Dynamics

Нью-йоркская полиция намерена вернуть в строй четвероногих роботов. Почти два года назад такой робот был снят с дежурства из-за негативной реакции общественности. По словам мэра мегаполиса Эрика Адамса (Eric Adams), модель Digidog на основе известного робота Spot от Boston Dynamics снова появится на улицах, поскольку его использование «может спасти жизни».

 Источник изображения: Jeenah Moon/The New York Times

Источник изображения: Jeenah Moon/The New York Times

Предполагается, что робот Digidog сможет работать в условиях, представляющих угрозу для людей — например, проводить оценку ситуации в опасных зонах и на строительных площадках. В 2020 году полиция Нью-Йорка применяла Digidog для разведки в случае, когда стрелок забаррикадировался в одном из зданий. Также в 2021 году робот применялся во время инспекции дома, в который вторглись преступники. После того как власти начали критиковать за слежку и чрезмерное вооружение полиции, последняя быстро разорвала контракт с Boston Dynamics.

Известно, что новую инициативу мэра Адамса уже осудила группа правозащитников Surveillance Technology Oversight Project (STOP), заявив, что нью-йоркская полиция претворяет в жизнь плохую научную фантастику. Как заявляют в организации, «Нью-Йорк заслуживает настоящей безопасности, а не поддельного робокопа», и вся инициатива является бесполезной тратой бюджетных средств для нарушения прав жителей города на частную жизнь. Власти Нью-Йорка в ответ заявили, что приобретут две робособаки общей стоимостью $750 тыс. и те будут использоваться только в ситуациях с реальным риском для жизней людей, например — при угрозе взрыва. «Несколько шумных людей выступили против технологии и мы отступили — я действую не так. В своих действиях я исхожу из того, что лучше для города», — заявил Адамс.

Покупка Digidog вновь поднимает вопросы эффективности использования полицией бюджетных средств и эффекта, который могут оказать оснащённые камерами роботы на конфиденциальность пользователей и общественную безопасность. Помимо использования Digidog, мэр Адамс и полиция города анонсировали использование ещё двух технологий: устройств для стрельбы GPS-трекерами компании StarChase для применения во время погонь и робота K5 ASR компании Knightscope, который описывается как «полностью автономный робот для обеспечения уличной безопасности». По некоторым данным, он также будет использоваться для сбора данных о преступниках.

 K5 ASR. Источник изображения: Jeenah Moon/The New York Times

K5 ASR. Источник изображения: Jeenah Moon/The New York Times

В полиции Нью-Йорка заявили, что развёртывание и использование технологий «будет прозрачным, последовательным и всегда будет осуществляться при сотрудничестве с людьми, которым мы служим». Кроме того, в полиции добавили, что ни Digidog, ни K5 ASR не будут использовать технологию распознавания лиц. Также они не будут вооружены. Пока неизвестны случаи, когда роботы Spot оснащались бы оружием — его использование стало бы нарушением условий, которые Boston Dynamics ставит перед покупателями. Впрочем, об использовании других «летальных» роботов американской полицией уже известно. Ещё в 2016 году робот взорвал подозреваемого в расстреле полицейских.


window-new
Soft
Hard
Тренды 🔥
«Всё будет»: глава Battlestate Games подтвердил, что Escape from Tarkov и Escape from Tarkov: Arena выйдут в Steam 14 мин.
TikTok закроет свой клон Instagram 8 мая 23 мин.
Meta лишилась главы фундаментальных ИИ-исследований 24 мин.
MTS AI выпустила ИИ-модель Cotype Pro 2, которая станет основой ИИ-агентов для бизнеса 45 мин.
Мир в коробке с саранчой и одиночный кооператив: подробности отменённого ответвления Disco Elysium про Куно и Куну 2 ч.
Дональд Трамп намерен обсудить сделку с TikTok сегодня 4 ч.
Картинки в стиле Ghibli перегрузили серверы OpenAI — выпуск новых функций замедлен 12 ч.
У Ubisoft пока нет чёткого плана работы новой компании с Tencent — инвесторы и сотрудники нервничают 13 ч.
«Загрузки быстрее, чем в Doom (2016)»: эксперт Digital Foundry остался в восторге от Doom: The Dark Ages 14 ч.
Консоли задержат релиз постапокалиптического стелс-экшена Steel Seed от создателей Close to the Sun — объявлена новая дата выхода 16 ч.
Meta выпустит умные очки с дисплеем и ценником выше $1000 уже к концу года 2 ч.
В Китае электролётам EHang разрешили перевозить людей по воздуху, но услуги аэротакси пока под запретом 2 ч.
Poco F7 Ultra и Poco F7 Pro — смартфоны с мощными чипами, продвинутыми системами камер и высокой надёжностью 2 ч.
НПК «Атроник» выпустила одноплатный компьютер формата PC/104-Plus с чипом Vortex86 DX3 2 ч.
Hyundai представила Insteroid — концепт электромобиля в стиле гоночных симуляторов 4 ч.
Amazon возобновила доставку товаров дронами в Техасе и Аризоне после двухмесячного перерыва 4 ч.
UMC открыла в Сингапуре новое передовое предприятие, снижая зависимость от Тайваня 6 ч.
Intel: Panther Lake возьмут всё самое лучше от актуальных Core и ангстремного техпроцесса 18A, но выйдут в 2026 году 8 ч.
Новая статья: Выбираем кулер для процессора Intel LGA1700 до 2 000 рублей 12 ч.
Garmin представила смарт-часы Vivoactive 6 с мониторингом энергии пользователя за $300 14 ч.