Сегодня 17 ноября 2026
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

Google спрятала ИИ-обзоры с «тревожными» медицинскими рекомендациями

Google незаметно удалила из своей поисковой системы ИИ-обзоры (AI Overviews) для некоторых запросов, связанных с медицинской тематикой и анализами функции печени. Как выяснилось, искусственный интеллект использовал упрощённые диапазоны показателей функции печени без важного контекста, такого как возраст, пол или этническая принадлежность.

 Источник изображения: Shutter Speed / Unsplash

Источник изображения: Shutter Speed / Unsplash

ИИ-обзоры представляют собой специальные блоки в результатах поиска, формируемые искусственным интеллектом Google. При помощи этой функции компания стремилась ускорить поиск, благодаря сформированному нейросетью краткому резюме по заданному вопросу вместо привычного списка ссылок. Но ответы искусственного интеллекта на вопросы, связанные со здоровьем, эксперты описывают как «тревожные» и «опасные».

Например, ИИ привёл стандартные диапазоны показателей функции печени, не указав, что эти показатели могут сильно меняться в зависимости от возраста, пола или этнической принадлежности человека. Подобная ошибка может сбить с толку человека с серьёзным заболеванием печени, и он не сможет вовремя получить медицинскую помощь.

На данный момент Google уже удалила ИИ-обзоры для конкретных поисковых запросов, которые были отмечены как некорректные, например, «какой нормальный диапазон показателей анализа крови на функцию печени». Представитель компании заявил, что Google действует в соответствии со своей политикой и вносит «широкие улучшения».

Однако, если немного изменить формулировку вопроса о здоровье, можно всё равно получить неверную сводку от ИИ. Это показывает, что защита системы весьма ограничена. Ванесса Хебдич (Vanessa Hebditch) из Британского фонда по изучению заболеваний печени отметила, что небольшие изменения в поисковом запросе, например, использование фразы «референтный диапазон показателей функции печени», по-прежнему приводят к тем же некорректным ответам.

Когда речь идёт о медицинской информации, точность имеет первостепенное значение. Вся существующая система медицинской диагностики опирается на контекст, вероятности и исключения — области, в которых большие языковые модели всё ещё испытывают трудности. Похоже, что искусственный интеллект Google пока не готов стать полноценным врачом.

Было интересно? Скажите об этом Google, чтобы чаще получать ссылки на наши новости про искусственный интеллект

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
От Ikea до Zoom: хакеры скомпрометировали популярные сайты по всему миру 44 мин.
Взломщик Rockstar предстал перед судом и признал вину за массовую утечку GTA VI — студия потеряла из-за него миллионы долларов 2 ч.
Россияне массово жалуются на сбои Google, Deepseek, Twitch, Discord и «Ростелекома» 3 ч.
«123456» снова стал самым популярным паролем в мире — седьмой год подряд 3 ч.
Китай поставил дистилляцию американских ИИ-моделей на промышленный поток 5 ч.
Новые отражения, улучшенное освещение и «полностью оптимизированный» Зен: для Black Mesa вышло крупнейшее обновление за последние годы 8 ч.
Alibaba показала ИИ, который сам создаёт игры в Unreal Engine и Unity, запускает их и исправляет ошибки 8 ч.
OpenAI ответит в суде за своих сорвавшихся с поводка ИИ-агентов — прокуроров заинтересовал взлом Hugging Face 17 ч.
Календарь релизов — 16–22 ноября: GTA VI и Goat Simulator 3 — Ticket to Dizzyworld 17 ч.
У iPhone Duo появилось распознавание лиц для разблокировки — даже без Face ID 19 ч.
Curator: в преддверии Черной пятницы активность вредоносных ботов выросла на 20 % 32 мин.
OpenAI арендует у TensorWave 457 МВт ИИ-мощностей на базе AMD Instinct 3 ч.
Платформа NVIDIA Vera Rubin обошла конкурентов во всех тестах MLPerf Training v6.1 3 ч.
Иран, Казахстан и Туркменистан достигли предварительной договорённости о строительстве совместного цифрового коридора 3 ч.
Кремниевая фотоника и Xeon нового поколения: Intel рассказала о разработках в области ИИ и НРС 3 ч.
Cornelis представила сетевую платформу CN6000 с поддержкой 800G 3 ч.
Ни актеров, ни съёмок, ни кассовых сборов — созданный ИИ китайский блокбастер провалился в прокате 3 ч.
Стебли лотоса оказались источником нескончаемой энергии — нужно только добавить воды и бактерий 5 ч.
США запустили уголовное расследование в отношении Megaspeed, которую возглавляла любовница Хуанга 6 ч.
AMD захватила 40 % рейтинга мощнейших суперкомпьютеров TOP500 — новый Lux дебютировал на 14-м месте 8 ч.