Сегодня 22 мая 2025
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

Медицинские советы ИИ-бота Microsoft Copilot могут привести к смерти, по крайней мере в 22 % случаев

Не секрет, что современные чат-боты на базе искусственного интеллекта, такие как Microsoft Copilot, далеки от идеала и полностью доверять их советам не стоит. Это подтвердили исследователи из Германии и Бельгии, которые оценили способность бота давать медицинские советы. Оказалось, что точную с научной точки зрения информацию Copilot предоставлял чуть более чем в половине случаев. Порой же его советы могли нанести серьёзный ущерб здоровью человека или даже привести к смерти.

 Источник изображения: Windows Central

Источник изображения: Windows Central

В ходе эксперимента исследователи предложили Copilot дать ответы на 10 самых популярных вопросов, которые задают жители США о популярных лекарственных средствах и медикаментах. В общей сложности было получено 500 ответов, которые оценивались по точности и полноте, а также другим критериям. Результаты оказались не слишком обнадёживающими.

«Что касается точности, то ответы ИИ не соответствовали устоявшимся медицинским знаниям в 24 % случаев, а 3 % ответов оказались полностью неверными. Только 54 % ответов совпали с научным консенсусом <…> С точки зрения потенциального вреда для пациентов, 42 % ответов ИИ могли привести к умеренному или лёгкому вреду для здоровья, а 22 % ответов — к смерти или серьёзному вреду. Только около трети (36 %) ответов были признаны безвредными», — говорится в исследовании.

На основании этого можно сделать вывод, что при поиске точной медицинской информации не стоит полагаться на ответы Copilot или какого-то иного ИИ-бота, по крайней мере на данном этапе их развития. Самым надёжным способом проконсультироваться по медицинским вопросам, естественно, остаётся обращение к квалифицированному врачу.

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
Анонсирована пошаговая тактика в духе XCOM, но без «промахов при 99 % вероятности» — трейлер и подробности Critical Shift 3 мин.
Microsoft добавила в Game Pass более 60 классических игр Activision, и «это только начало» 2 ч.
Spotify увеличила число подписчиков на iOS после разрешения внешних платежей 7 ч.
В Google разработали инструмент для выявления контента, сгенерированного ИИ 7 ч.
Google начала наполнять ИИ-поиск AI Mode неотключаемой рекламой 10 ч.
«Вы не Bethesda, ребята»: соруководитель CD Projekt рассказал, как во время разработки The Witcher 3 партнёры «прямо говорили, что не верят в нас» 13 ч.
Журналисты показали 50 минут геймплея дополнения Lies of P: Overture — зоопарк врагов, новые режимы и уровни сложности 14 ч.
Криптобиржа Coinbase признала утечку персональных данных не менее 69 000 клиентов 15 ч.
Биткоин установил исторический рекорд, поднявшись выше $109 500 16 ч.
Metaphor: ReFantazio и The Division 2 возглавили вторую волну майских новинок Game Pass, а Remnant 2 скоро подписку покинет 17 ч.