Автомобили превращаются в шпионов: ИИ-ассистенты собирают личные данные и не всегда понятно, кому их отправляют

Комфорт от использования ИИ-ассистента в автомобиле всё чаще становится ночным кошмаром водителей. Умные автомобили получают доступ к широкому набору личных данных владельцев, допуская утечки как по вине разработчиков платформ, так и по причине несерьёзного отношения к этой проблеме самих водителей.

Автопроизводители, включая General Motors, Ford, Rivian, Mercedes-Benz и BMW, разрабатывают голосовых ИИ-ассистентов, которые могут не только управлять отдельными функциями автомобиля, но и выполнять роль персональных помощников: планировать маршруты с учётом расписания владельца, работать с календарём, находить нужные места и помогать с повседневными задачами. Для этого системам умного автомобиля требуется доступ к дополнительным персональным сведениям — местоположению, контактам, сообщениям, календарю и истории взаимодействия с машиной.

На этот счёт появляется всё больше исследований, которые подчёркивают недооценённую простыми людьми опасность утечек конфиденциальных данных в процессе общения с автомобильными ИИ-ассистентами и сопутствующие этому риски.

В частности, такое исследование провели специалисты Северо-Восточного университета (Northeastern University) совместно с аналитиками Consumer Reports. Учёные проверили 21 автомобиль 19 марок и 30 мобильных приложений для управления машинами. В ходе экспериментов автомобили подключали к специально настроенной точке Wi-Fi, а сетевой трафик регистрировали с помощью Raspberry Pi.

Для изучения приложений использовались инструменты перехвата и расшифровки сетевых соединений. Выяснилось, что 19 из 21 автомобилей связывались по Wi-Fi как минимум с одним сторонним сервером, включая рекламные и аналитические платформы. Семь из 30 приложений передавали третьим сторонам чувствительные данные: VIN автомобиля, электронную почту, номера телефонов или точные координаты. При этом исследователи не смогли установить содержимое зашифрованных пакетов автомобильного трафика, но ситуация ясна — данные уходили в неизвестном направлении.

Автопроизводители, со своей стороны, начинают реагировать на обвинения в утечках персональных данных. Например, GM утверждает, что её новый ИИ-ассистент OnStar выполняет распознавание речи и обработку типовых команд непосредственно в бортовой системе машины, обращаясь к облаку лишь в сложных случаях. Компактная модель распознавания естественного языка классифицирует запросы менее чем за 300 мс, а к облачной инфраструктуре GM с языковой моделью Google Gemini обращаются при неоднозначных или открытых запросах.

Иными словами, данные об общении водителя с ИИ-ассистентом не покидают салона автомобиля. Исполнение команд остаётся под контролем отдельного программного модуля GM, а сама Gemini, для которой автомобильный модуль является надстройкой, не получает непосредственного доступа к системам автомобиля. В настройках OnStar можно разрешать или запрещать доступ к микрофону, местоположению, контактам и сообщениям.

Компания Ford, в свою очередь, 2 ноября объявила о программе Privacy Promise, пообещав не продавать данные о вождении клиентов брокерам (на чём неоднократно ловили автопроизводителей, а брокеры сливали информацию страховщикам со всеми вытекающими для владельцев). В то же время отключение ряда функций ИИ-ассистентов может лишить владельца автомобиля таких возможностей, как навигация в реальном времени, вызов помощи на дороге и других удобных вещей, к которым быстро привыкаешь и уже не хочешь их терять.

И это не только вождение и подсказки в дороге. Последние реализации ИИ-ассистентов позволяют им самостоятельно планировать поездки, включая семейные, назначать мероприятия и даже переносить их в случае проблем в пути. Для всего этого приходится делиться с машиной личным, не всегда осознавая последствия утечек.

Директор Ford по вопросам конфиденциальности Кристин Джонс (Kristin Jones) признала, что новые обязательства не меняет основополагающую практику компании в отношении данных. «Мы просто очень просто рассказываем людям о нашей практике», — сказала она. Тем самым проблема сводится к традиционному решению, известному как «спасение утопающих — дело самих утопающих».