MWC 2018
2018
Computex
IFA 2018
Google незаметно удалила из своей поисковой системы ИИ-обзоры (AI Overviews) для некоторых запросов, связанных с медицинской тематикой и анализами функции печени. Как выяснилось, искусственный интеллект использовал упрощённые диапазоны показателей функции печени без важного контекста, такого как возраст, пол или этническая принадлежность.
Источник изображения: Shutter Speed / Unsplash
ИИ-обзоры представляют собой специальные блоки в результатах поиска, формируемые искусственным интеллектом Google. При помощи этой функции компания стремилась ускорить поиск, благодаря сформированному нейросетью краткому резюме по заданному вопросу вместо привычного списка ссылок. Но ответы искусственного интеллекта на вопросы, связанные со здоровьем, эксперты описывают как «тревожные» и «опасные».
Например, ИИ привёл стандартные диапазоны показателей функции печени, не указав, что эти показатели могут сильно меняться в зависимости от возраста, пола или этнической принадлежности человека. Подобная ошибка может сбить с толку человека с серьёзным заболеванием печени, и он не сможет вовремя получить медицинскую помощь.
На данный момент Google уже удалила ИИ-обзоры для конкретных поисковых запросов, которые были отмечены как некорректные, например, «какой нормальный диапазон показателей анализа крови на функцию печени». Представитель компании заявил, что Google действует в соответствии со своей политикой и вносит «широкие улучшения».
Однако, если немного изменить формулировку вопроса о здоровье, можно всё равно получить неверную сводку от ИИ. Это показывает, что защита системы весьма ограничена. Ванесса Хебдич (Vanessa Hebditch) из Британского фонда по изучению заболеваний печени отметила, что небольшие изменения в поисковом запросе, например, использование фразы «референтный диапазон показателей функции печени», по-прежнему приводят к тем же некорректным ответам.
Когда речь идёт о медицинской информации, точность имеет первостепенное значение. Вся существующая система медицинской диагностики опирается на контекст, вероятности и исключения — области, в которых большие языковые модели всё ещё испытывают трудности. Похоже, что искусственный интеллект Google пока не готов стать полноценным врачом.
Источник:
