Сегодня 17 ноября 2026
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

Google спрятала ИИ-обзоры с «тревожными» медицинскими рекомендациями

Google незаметно удалила из своей поисковой системы ИИ-обзоры (AI Overviews) для некоторых запросов, связанных с медицинской тематикой и анализами функции печени. Как выяснилось, искусственный интеллект использовал упрощённые диапазоны показателей функции печени без важного контекста, такого как возраст, пол или этническая принадлежность.

 Источник изображения: Shutter Speed / Unsplash

Источник изображения: Shutter Speed / Unsplash

ИИ-обзоры представляют собой специальные блоки в результатах поиска, формируемые искусственным интеллектом Google. При помощи этой функции компания стремилась ускорить поиск, благодаря сформированному нейросетью краткому резюме по заданному вопросу вместо привычного списка ссылок. Но ответы искусственного интеллекта на вопросы, связанные со здоровьем, эксперты описывают как «тревожные» и «опасные».

Например, ИИ привёл стандартные диапазоны показателей функции печени, не указав, что эти показатели могут сильно меняться в зависимости от возраста, пола или этнической принадлежности человека. Подобная ошибка может сбить с толку человека с серьёзным заболеванием печени, и он не сможет вовремя получить медицинскую помощь.

На данный момент Google уже удалила ИИ-обзоры для конкретных поисковых запросов, которые были отмечены как некорректные, например, «какой нормальный диапазон показателей анализа крови на функцию печени». Представитель компании заявил, что Google действует в соответствии со своей политикой и вносит «широкие улучшения».

Однако, если немного изменить формулировку вопроса о здоровье, можно всё равно получить неверную сводку от ИИ. Это показывает, что защита системы весьма ограничена. Ванесса Хебдич (Vanessa Hebditch) из Британского фонда по изучению заболеваний печени отметила, что небольшие изменения в поисковом запросе, например, использование фразы «референтный диапазон показателей функции печени», по-прежнему приводят к тем же некорректным ответам.

Когда речь идёт о медицинской информации, точность имеет первостепенное значение. Вся существующая система медицинской диагностики опирается на контекст, вероятности и исключения — области, в которых большие языковые модели всё ещё испытывают трудности. Похоже, что искусственный интеллект Google пока не готов стать полноценным врачом.

Было интересно? Скажите об этом Google, чтобы чаще получать ссылки на наши новости про искусственный интеллект

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
Календарь релизов — 16–22 ноября: GTA VI и Goat Simulator 3 — Ticket to Dizzyworld 24 мин.
У iPhone Duo появилось распознавание лиц для разблокировки — даже без Face ID 2 ч.
Кровавый трейлер психологического хоррор-шутера Flesh & Wire от создателей Postal напомнил фанатам о The Darkness и F.E.A.R. 2 ч.
К глобальному сбою в системах Microsoft 365 привела ошибка в обновлении служебной Windows трёхмесячной давности 3 ч.
«Нас было не удержать»: ролевая игра Clockwork Revolution от авторов Wasteland вместит больше текста, чем все восемь сезонов «Игры престолов» 4 ч.
Microsoft раскрыла виновника глобального сбоя: скрытая ошибка Windows перегрузила серверы 5 ч.
Владелец «Бегущего по лезвию» подтвердил планы на AAA-игру по мотивам культовой киберпанковой вселенной 5 ч.
Предзагрузка GTA VI обернулась рекордным скачком интернет-трафика по всему миру 7 ч.
XXII конференция «Свободное программное обеспечение в высшей школе» 8 ч.
RuStore станет обязательным для предустановки на все умные телевизоры в России 10 ч.
Илон Маск заявил, что следующая версия Starship V4 станет ещё больше и мощнее 5 мин.
Маск решил заполнить Европу роботакси: Tesla вложит €3 млрд в немецкий завод, чтобы выпускать миллион машин в год 13 мин.
В 5,9 раза быстрее Nvidia, но не во всём: Intel раскрыла возможности ускорителя D270 18 мин.
AMD поглотила разработчика ИИ-песочниц для роботов World Labs 23 мин.
Самый скучный TOP500 за всю историю, но с небольшим китайским сюрпризом 2 ч.
Умные очки Google от Gentle Monster смели до старта продаж 3 ч.
Инвесторы охладели к ИИ-буму: производители оборудования для дата-центров подешевели на $4,2 трлн 4 ч.
Китай испытал грузовой беспилотник W5000 рекордной грузоподъёмности — он способен разом доставить 5 тонн из Москвы в Омск 4 ч.
США закручивают гайки: китайские компании больше не смогу арендовать ИИ-чипы Nvidia за рубежом без разрешения 6 ч.
Samsung, SK hynix и Micron не смогли отвертеться от иска о сговоре ради дефицита DRAM 6 ч.