Сегодня 22 апреля 2025
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

ИИ-чат-бот властей Нью-Йорка оказался обманщиком

В октябре прошлого года муниципальные органы власти Нью-Йорка запустили на официальном портале MyCity чат-бота на основе искусственного интеллекта (ИИ), разработанного с использованием платформы Azure AI корпорации Microsoft. Этот инструмент был задуман как средство быстрого доступа к необходимой информации для местного бизнеса. Несмотря на благие намерения, сервис столкнулся с серьёзной проблемой недостоверности предоставляемых данных.

 Источник изображения: AMRULQAYS / Pixabay

Источник изображения: AMRULQAYS / Pixabay

По результатам проверки, проведённой аналитиками из The Markup, выяснилось, что ИИ-чат-бот даёт неверную информацию по широкому спектру вопросов, затрагивающих жилищную политику и права работников. В частности, на вопрос о возможности отказа от наличных расчётов в магазине чат-бот ответил утвердительно, несмотря на то, что законодательство Нью-Йорка запретило практику полностью безналичных расчётов в магазинах ещё в 2020 году.

Система также неверно информировала пользователей о требованиях к арендодателям относительно принятия ваучеров Section 8 и о законности удержания чаевых работодателями. Особенно тревожным является факт, что при повторных запросах на один и тот же вопрос нью-йоркский чат-бот мог давать разные ответы, что свидетельствует о недостаточной надёжности системы в целом.

Чат-бот функционирует на основе ИИ, разработанного Microsoft и используемого в широком спектре приложений, включая сервисы таких компаний, как Reddit и AT&T. Нестабильность ответов, предоставляемых чат-ботом, подчёркивает необходимость всестороннего тестирования ИИ-систем перед их внедрением в общественные сервисы, чтобы обеспечить их способность предоставлять актуальную и точную информацию.

Источники:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
Gmail упростил отписку от надоедливых рассылок, собрав их все в одном месте 7 мин.
Курс биткоина превысил $90 000 впервые за шесть недель 53 мин.
UserGate обновила и расширила экосистему ИБ UserGate SUMMA и реорганизовала работу с учётом потребностей клиентов 2 ч.
Google призналась, что платит Samsung «огромные деньги» за предустановку Gemini на Galaxy 2 ч.
Windows 11 впервые установили и запустили на Apple iPad Air 2 ч.
Журналисты и блогеры готовятся разразиться подробностями и геймплеем Death Stranding 2: On the Beach — Кодзима пригласил в гости 2 ч.
«VK Видео» запустит платную подписку для отключения рекламы в видео 4 ч.
Разработчики ИИ-приложений предпочитают технологии OpenAI, но всё быстро меняется 5 ч.
«Нанософт»: уровень пиратства на рынке инженерного ПО в России вырос до 70 % 5 ч.
Закулисное обновление разожгло слухи о скором анонсе ремейка культовой ролевой игры Persona 4 5 ч.
Астрономы обнаружили хвостатую планету, которая буквально испаряется с каждым оборотом вокруг своей звезды 55 мин.
Insta360 представила экшн-камеру X5 за $550 c простой заменой разбитых линз 2 ч.
Intel придумала разгон без потери гарантии: функция Core 200S Boost безопасно ускорит ПК на Arrow Lake, но не все 2 ч.
Казахстанский дата-центр Freedom Cloud свяжет Китай и Европу 2 ч.
«Роскосмос» рассказал, когда начнёт строить дополнительный сегмент ГЛОНАСС из 240 спутников 3 ч.
Названа самая популярная марка ноутбуков в России в этом году 3 ч.
Трёхстворчатый складной смартфон Samsung и недорогой Galaxy Z Flip FE выйдут в четвёртом квартале 4 ч.
Toshiba выпустила 24-Тбайт жёсткие диски N300 и N300 Pro на технологии CMR для работы 24/7 4 ч.
Новые игровые тесты показали пропасть в производительности между разными версиями GeForce RTX 5060 Ti 4 ч.
Грузовик SpaceX Cargo Dragon доставил на МКС рекордный объём продуктов питания 4 ч.