Сегодня 04 сентября 2025
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

ИИ-чат-бот властей Нью-Йорка оказался обманщиком

В октябре прошлого года муниципальные органы власти Нью-Йорка запустили на официальном портале MyCity чат-бота на основе искусственного интеллекта (ИИ), разработанного с использованием платформы Azure AI корпорации Microsoft. Этот инструмент был задуман как средство быстрого доступа к необходимой информации для местного бизнеса. Несмотря на благие намерения, сервис столкнулся с серьёзной проблемой недостоверности предоставляемых данных.

 Источник изображения: AMRULQAYS / Pixabay

Источник изображения: AMRULQAYS / Pixabay

По результатам проверки, проведённой аналитиками из The Markup, выяснилось, что ИИ-чат-бот даёт неверную информацию по широкому спектру вопросов, затрагивающих жилищную политику и права работников. В частности, на вопрос о возможности отказа от наличных расчётов в магазине чат-бот ответил утвердительно, несмотря на то, что законодательство Нью-Йорка запретило практику полностью безналичных расчётов в магазинах ещё в 2020 году.

Система также неверно информировала пользователей о требованиях к арендодателям относительно принятия ваучеров Section 8 и о законности удержания чаевых работодателями. Особенно тревожным является факт, что при повторных запросах на один и тот же вопрос нью-йоркский чат-бот мог давать разные ответы, что свидетельствует о недостаточной надёжности системы в целом.

Чат-бот функционирует на основе ИИ, разработанного Microsoft и используемого в широком спектре приложений, включая сервисы таких компаний, как Reddit и AT&T. Нестабильность ответов, предоставляемых чат-ботом, подчёркивает необходимость всестороннего тестирования ИИ-систем перед их внедрением в общественные сервисы, чтобы обеспечить их способность предоставлять актуальную и точную информацию.

Источники:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
RuStore и АКИ создадут экосистему для развития мобильных игр и «появления новых российских хитов на мировом рынке» 22 мин.
Релиз «Альт Рабочая станция» 11.1: шифрование по ГОСТ, расширенная поддержка видеокарт Nvidia, приложения собственной разработки 42 мин.
Франция оштрафовала Google на €325 миллионов за нарушение требований по защите потребителей 2 ч.
Функция Projects в ChatGPT стала доступна бесплатным пользователям 3 ч.
Как шахматы, но быстрее: соавтор Nuclear Throne анонсировал странную пошаговую стратегию Australia Did It 3 ч.
Произошёл серьёзный сбой в работе сервисов Google 3 ч.
Присяжные в суде Сан-Франциско обязали Google выплатить более $425 млн за нарушение конфиденциальности 4 ч.
Отрасль затаила дыхание —Tesco, крупнейшая розничная сеть в Великобритании, подала в суд на Broadcom из-за изменения лицензионной политики VMware 6 ч.
Надёжный инсайдер: новая God of War в разработке, а Marvel’s Wolverine скоро выйдет из тени 6 ч.
Apple встроит в Siri поисковик на базе ИИ от Google в следующем году 6 ч.
Американцы хотят полететь на Марс уже в начале 2030-х годов 26 мин.
Представлен Eufy MarsWalker — робот для подъёма и спуска роботов- пылесосов по лестницам 38 мин.
Huawei представила второй в мире трёхстворчатый складной смартфон Mate XTs за $2500 40 мин.
Учёные обучили промышленных роботов «балету», чтобы они не мешали друг другу при совместной работе 2 ч.
Новая статья: Первый взгляд на смартфон Samsung Galaxy S25 FE и планшеты Samsung Galaxy Tab S11/S11 Ultra 2 ч.
Samsung представила субфлагман Galaxy S25 FE с чипом Exynos 2400 и множеством ИИ-функций за €749 2 ч.
Samsung представила планшеты Galaxy Tab S11 и Tab S11 Ultra — корпус толщиной 5,1 мм, чип Dimensity 9400 и цена от €900 2 ч.
Ведущего дизайнера Lamborghini переманила на работу Xiaomi 2 ч.
Анонсирован смартфон Redmi 15C с батареей на 6000 мА·ч и быстрой зарядкой на 33 Вт по цене от 9990 рублей 2 ч.
Китайские ИТ-гиганты по-прежнему намерены покупать чипы Nvidia, невзирая на давление властей 3 ч.