MWC 2018
2018
Computex
IFA 2018
Вопрос безопасности искусственного интеллекта нередко рассматривается в контексте влияния сопутствующих технологий на психическое здоровье подрастающего поколения. Одна американская некоммерческая организация недавно обвинила поисковые технологии Google в наличии неприемлемо высоких рисков для несовершеннолетних пользователей.
Источник изображения: Unsplash, Shutter Speed
Свои претензии к интернет-гиганту, как сообщает Bloomberg, выдвинула некоммерческая организация Институт безопасности ИИ для молодёжи (Youth AI Safety Institute) при Common Sense Media, которая базируется в Калифорнии. Исследователи выяснили, что функция ИИ-поиска Google не может блокировать нежелательную для изучения подростками информацию. В частности, система утверждала, что расстройство пищевого поведения является нормой, не блокировала информацию суицидального и сексуального характера при составлении запроса от учётной записи, формально зарегистрированной на несовершеннолетнего.
По словам авторов исследования, общедоступность поискового сервиса Google не оставляет администраторам учебных заведений или родителям инструментов для отключения ИИ-функций, способных представлять опасность для нравственного здоровья детей. Вопросы имеются и к достоверности информации, которую Google выдаёт в ИИ-режиме, ведь у подрастающего поколения критическое мышление может быть не развито в той степени, чтобы перепроверять информацию по разным источникам. Риски и проблемы, которые несёт подобная безответственность со стороны Google, по мнению авторов исследования, способны отражаться на целом поколении граждан.
Представители Google ответили, что методика тестирования со стороны Common Sense Media использовала ограниченный перечень запросов, который не является репрезентативным, а потому не позволяет объективно оценить безопасность ИИ-функций интернет-гиганта. В письме Google в адрес Bloomberg говорится: «Наши функции поиска с помощью ИИ невероятно полезны для детей и подростков с точки зрения изучения этого мира и информации о нём. Помимо защитных механизмов, распространяющихся непосредственно на поисковую платформу, предусмотрен дополнительный уровень ограничений для ИИ-инструментов».
Как добавили представители Google, родители имеют возможность полностью отключить доступ к поисковому сервису компании в учётных записях своих детей. Правда, при этом отключить только ИИ-поиск отдельно не получится. Власти Австралии, Великобритании и ряда других стран уже пытаются оградить молодое поколение от влияния социальных сетей, но в большинстве случаев конкретные прецеденты рассматриваются в судах, а общей политики регулирования доступа подростков к интернет-ресурсам нет.
Авторы исследования из Common Sense Media сгенерировали в период с 16 мая по 1 июля этого года более 2500 поисковых запросов через учётные записи Google, зарегистрированные на несовершеннолетних, а также проверили более 2000 источников, на которых ссылалась поисковая выдача Google. Обособленная версия чат-бота Gemini в ходе исследования не использовалась. Помимо выдачи информации на откровенно опасные темы, ИИ-поиск Google пытался внушить участникам исследования, что принудительный вызов рвотного рефлекса после приёма пищи является нормой поведения. При этом лицам, предположительно страдающим данной формой расстройства, Google рекомендовала обратиться на горячую линию поддержки по телефону, который не функционировал по назначению с 2023 года.
Поиск Google также не препятствовал участникам исследования в подборе оптимальных способов замены лиц на видео с целью создания фейков, а также давал рекомендации по защите от их выявления. Google также не препятствовал в поиске информационных ресурсов, на страницах которых обсуждаются суицидальные идеи. Сама Google утверждает, что воспроизвести результаты поисковой выдачи, описанные в отчёте, не смогла, а её эксперименты продемонстрировали более качественные ответы системы.
Кроме того, представители Google пояснили, что в реальных условиях авторы запросов обычно делают уточнения, которые позволяют ИИ-системе опираться на предыдущий контекст и выдавать более точную и безопасную информацию. Исследование, проведённое по итогам одиночных запросов, не может претендовать на объективность, по мнению специалистов Google.
В случае с моделированием использования ИИ-поиска Google для решения домашних заданий авторы исследования обнаружили, что он даёт весьма противоречивые ответы на вопросы об исторических событиях, а в прочих дисциплинах ссылается на данные из социальных сетей и форумов, достоверность которых весьма сомнительна. Это также заставляет авторов исследования настаивать на ограждении учащихся от результатов ИИ-поиска Google в контексте определённых аспектов образовательного процесса.
Источник:
