Сегодня 09 октября 2025
18+
MWC 2018 2018 Computex IFA 2018
реклама
Теги → диагностика

У медицинского ИИ обнаружилась склонность к дискриминации женщин и расизму

Первые попытки поставить искусственный интеллект на службу медицине много лет назад предпринимались ещё компанией IBM с её системой Watson, но по мере развития отрасли эта область применения компьютерных технологий стала всё более обширной. Учёные утверждают, что существующий подход к обучению больших языковых моделей в медицине делает диагностику менее качественной для представителей женского пола и определённых рас.

 Источник изображения: Nvidia

Источник изображения: Nvidia

Издание Financial Times обобщило высказывания экспертов в смежных областях, пытаясь объяснить, почему существующие языковые модели склонны давать более качественные рекомендации в области здравоохранения представителям мужского пола белой расы. По сути, исторически именно на нужды этой категории пациентов работала вся сфера медицинских исследований, поэтому именно для этой выборки сформировано максимальное количество медицинских данных, на которых и обучались современные большие языковые модели. Более того, та же OpenAI призналась, что в ряде медицинских инициатив использовала менее совершенные языковые модели, чем существующие сейчас — просто по той причине, что на момент реализации проектов других не было. Сейчас специалистам стартапа во взаимодействии с медиками приходится вносить соответствующие коррективы в работу профильных систем.

В ряде случаев большие языковые модели дают не самые чёткие и правильные медицинские рекомендации по причине использования слишком широкого спектра источников данных для своего обучения. В принципе, если в эту выборку попадали даже советы непрофессионалов на страницах Reddit, то качество подобных рекомендаций с точки зрения профессиональных медиков уже можно поставить под сомнение. Специалисты предлагают формировать материал для обучения медицинских систем более ответственно, а также использовать более локализованные данные в пределах одной страны или даже местности. Это позволит лучше учитывать локальную специфику с точки зрения здравоохранения.

Отдельной проблемой для клиентов больших языковых моделей, пытающихся с их помощью получить советы в области здравоохранения, является низкий приоритет при обработке неграмотно или сумбурно составленных запросов. Если в них содержатся грамматические или орфографические ошибки, система с меньшей вероятностью выдаст корректные рекомендации по сравнению с тем запросом, который с этой точки зрения был составлен безупречно. Нередко системы настроены так, что просто рекомендуют обратиться автору запроса к врачу, если качество самого запроса не соответствует определённым критериям.

Защита персональных данных и врачебной тайны также является серьёзной проблемой при обучении больших языковых моделей, и в этой сфере уже возникают прецеденты судебных претензий. Склонность языковых моделей к так называемым «галлюцинациям» в случае с обработкой медицинской информации представляет реальную опасность для здоровья и жизни людей. В любом случае, эксперты сходятся во мнении, что применение ИИ в сфере здравоохранения несёт больше пользы, чем вреда, просто здесь нужно правильно расставить приоритеты в развитии. Например, нужно направлять ресурсы ИИ на решение проблем в медицине, которым традиционно уделялось меньше внимания, а не пытаться просто ускорить определение диагноза по сравнению с живыми медиками на какие-то минуты или секунды, поскольку в этом нет особого смысла.

Смартфоны Google Pixel научились скрывать пользовательские фото и данные от работников сервисных центров

Google представила так называемый «режим ремонта» для смартфонов Pixel, который обеспечивает конфиденциальность личных данных владельца устройства в то время, как устройство будет находиться на ремонте в мастерской. Для использования этого режима необходима ОС Android 14 и минимум 2 Гбайт свободного места.

 Источник изображения: Google

Источник изображения: Google

Согласно информации на странице поддержки Google Pixel, режим ремонта создаёт чистую версию ОС Android в отдельном разделе, что гарантирует, что личные данные владельца устройства останутся в безопасности. В режиме ремонта отключается доступ к приложениям Google «Play Маркет», «Сообщения», «Текст в речь», «Поиск» и другим Android-приложениям, однако становятся доступны специализированные приложения для технического обслуживания.

Кайл Винс (Kyle Wiens), глава iFixit, высоко оценил эту инициативу, подчеркнув, что большинство техников заслуживают доверия, но передача своего смартфона в руки незнакомого человека всегда вызывает беспокойство. Новый режим ремонта Google Pixel устраняет эти опасения и может быть использован как при личном посещении сервисного центра, так и при отправке устройства по почте. Все изменения, сделанные на смартфоне в режиме ремонта, за исключением системных обновлений, отменяются после его отключения.

Google предупреждает, что режим ремонта не гарантирует сохранность всех данных на устройстве в случае необходимости полного сброса устройства техником. Владельцам Pixel рекомендуется создать полную резервную копию данных перед отправкой устройства в ремонт. Доступ к режиму ремонта можно найти в разделе «Система» в настройках совместимых моделей Pixel. Для использования этой функции необходимо обновление до Android 14, выпущенное в декабре 2023 года или позже, а также наличие как минимум 2 Гбайтов свободного места на устройстве.

Помимо режима ремонта, Google также анонсировала нововведения для самостоятельного ремонта смартфона. Одно из них — запуск диагностического приложения Pixel с помощью телефонной клавиатуры. Для этого нужно открыть приложение «Телефон» и набрать специальную комбинацию ##7287##, после чего следовать инструкциям на экране. Кроме этого, Google обновила свои руководства по ремонту, сделав их более доступными для сторонних профессиональных техников и любителей самостоятельного ремонта (Do it yourself или DIY).

Google не первая технологическая компания, предложившая режим ремонта в своих смартфонах. Ранее Samsung ввёл похожий режим обслуживания в устройствах Galaxy с выходом One UI 5 в октябре 2022 года. Тем не менее, для Google это значительный шаг в защите конфиденциальности пользователей смартфонов Pixel. Такие инновации уменьшают риск несанкционированного доступа к личным данным в процессе ремонта, предоставляя владельцам больше контроля над своими устройствами.

Google выпустила простой инструмент самодиагностики смартфонов Pixel

Google представила новый инструмент для диагностики проблем своих смартфонов Pixel. Это нововведение позволяет пользователям самостоятельно диагностировать состояние своих устройств, используя специальную комбинацию ##7287## на клавиатуре звонка. Таким образом, они могут провести всестороннюю проверку функциональности своих смартфонов как до, так и после ремонта.

 Источник изображений: Google

Источник изображений: Google

Данный инструмент включает в себя широкий спектр диагностических средств. Он позволяет выполнить как полную диагностику всего устройства, так и провести отдельные тесты для выявления физических повреждений или проблем, связанных с экраном, датчиками и подключением смартфона. Эта функция доступна на всех моделях Pixel, однако поддерживает только английский язык.

В дополнение к диагностическому приложению Google обновила руководства по ремонту, разработанные таким образом, чтобы их было легче использовать как профессиональным техникам, так и любителям самостоятельного ремонта (Do it yourself или DIY). Эти руководства, пока доступные только на английском и французском языках, можно скачать с официального сайта Google. Однако на текущий момент они предоставлены только для моделей Google Pixel Fold, Google Pixel 8 и Google Pixel 8 Pro. Компания планирует расширить перечень руководств по ремонту для предыдущих и будущих моделей смартфонов Pixel уже в ближайшие месяцы.

В начале этого месяца Google также представила «Режим ремонта» для смартфонов Pixel. Эта функция предназначена для защиты личной информации пользователей, когда их устройство находится у техника. Она похожа на функцию «Режим ремонта», которую Samsung внедрила в свои устройства ещё в 2021 году. Это нововведение позволяет пользователям сохранять конфиденциальность своих данных в процессе технического обслуживания смартфона.

В рамках текущего тренда на самостоятельный ремонт и устранение неполадок Google, наряду с другими крупными технологическими компаниями, демонстрирует более открытый подход к DIY-ремонту и независимым сервисным центрам. Подобно Samsung, Google предлагает запчасти для ремонта различных устройств через iFixit, в то время как Apple продолжает расширять свою программу самостоятельного ремонта, начатую в прошлом году. Apple также недавно представила свой собственный инструмент для онлайн-диагностики.

Эти шаги со стороны крупных технологических компаний не только открывают новые возможности для пользователей, но и укрепляют доверие и лояльность потребителей, а также стимулируют более ответственное и осознанное отношение к использованию и обслуживанию современных технологических устройств.


window-new
Soft
Hard
Тренды 🔥
Discord сообщил об утечке удостоверений личности 70 000 пользователей 58 мин.
В Steam открылось тестирование Valor Mortis от разработчиков Ghostrunner — ролевого боевика от первого лица в духе Dark Souls и BioShock 10 ч.
Ninja Gaiden 4, Baldur’s Gate, новая игра от создателей Psychonauts и многое другое: Microsoft раскрыла первые новинки Game Pass после подорожания 12 ч.
«Билайн Big Data & AI» и IVA Technologies займутся совместной разработкой ИИ-продуктов 13 ч.
«Интернет — не свалка для негатива»: в китайских соцсетях массово банят пессимистов 13 ч.
Еврокомиссия выделит €1 млрд на внедрение ИИ в десяти отраслях 14 ч.
Демоны, титаны и невообразимые ужасы: новый геймплейный трейлер Painkiller показал, почему в чистилище веселее с друзьями 14 ч.
Российский рынок IaaS и PaaS отметился 30-проценным ростом с начала года 15 ч.
Разработчик Baldur’s Gate 3 бросил тень на план Илона Маска «сделать игры снова великими» с помощью ИИ 18 ч.
У Gemini обнаружили уязвимость с подменой символов, но Google решила ничего не делать 18 ч.