MWC 2018
2018
Computex
IFA 2018
Законодатели штата Калифорния пытаются учесть ошибки прошлых лет, когда новые технологии опережали юридические нормы в повседневной жизни и трудовых отношениях. Например, так произошло с ИИ, который стал лишать людей работы под разными благовидными предлогами. Нейроинтерфейсы и считывание активности мозга — это ещё одна новая технология, которая может как помочь человеку, так и поставить его в зависимость от работодателя. Это требует строгого регулирования.
Источник изображения: ИИ-генерация ChatGPT/3DNews
Фактически мир находится на пороге общества, в котором электрическая активность мозга и периферической нервной системы превращается в ещё один источник персональных данных. Речь уже идёт не только об имплантатах, таких как интерфейсы «мозг — компьютер». Сигналы нервной системы могут собирать наушники, повязки на голову, браслеты и гарнитуры дополненной реальности. Да, это тоже персональная информация об активности нервной системы человека, и она может многое о нём рассказать, на основании чего в отношении гражданина могут быть приняты те или иные меры, в частности со стороны работодателя.
Данные электроэнцефалографии и другие биосигнатуры регистрируют слабые электрические сигналы, после чего алгоритмы машинного обучения выделяют из них признаки внимания, усталости, стресса и других состояний. В медицинских системах аналогичные технологии позволяют парализованным пациентам управлять компьютерами, синтезировать речь или отдавать команды роботизированным устройствам. Однако по мере появления потребительских нейроинтерфейсов законодатели опасаются их превращения в инструмент постоянного контроля работников.
Главным новым ограничением должен стать законопроект AB 1883. Он распространяется на системы наблюдения за работниками — от камер и геолокации до устройств, регистрирующих биометрические и нейронные сигналы (если в них используется искусственный интеллект). Работодателям предлагается запретить применение таких систем для распознавания или прогнозирования эмоционального состояния сотрудника, а также для сбора данных о нервной активности сотрудника, за исключением случаев, связанных с обеспечением безопасности и рядом специальных задач, включая оборонные, авиационные и космические программы.
Под «нейронными данными» закон понимает информацию, полученную непосредственно путём измерения активности центральной или периферической нервной системы. Если работодатель принимает решение о состоянии сотрудника на основании его поведения или иными, не связанными с нейронными данными, методами, то это не считается нарушением прав сотрудника. За нарушение предусмотрен штраф до $500 за каждый случай, а работник сможет требовать возмещения ущерба через суд. К началу августа AB 1883 уже прошёл ряд комитетов Сената и со временем может стать законом штата.
Параллельно рассматривается законопроект AB 1542, который должен закрыть доступ к данным о высшей и периферической нервной деятельности людей со стороны коммерческих структур. Ещё в 2024 году Калифорния приняла закон SB 1223, официально включивший «нейронные данные» в категорию чувствительной персональной информации наряду с генетическими данными, точной геолокацией, содержимым частной переписки и рядом других особо чувствительных сведений.
Законопроект AB 1542 идёт дальше и запрещает компаниям, поставщикам услуг и подрядчикам продавать или передавать третьим сторонам чувствительную персональную информацию, включая данные нервной системы. Необходимость такого ограничения подкрепляется исследованием фонда Neurorights Foundation: из 30 опрошенных производителей потребительской нейротехники 20 прямо допускали в своих правилах передачу персональной информации третьим сторонам, а ещё девять использовали неоднозначные формулировки на этот счёт. При этом только 13 компаний прямо упоминали нейронные данные в документах о конфиденциальности.
Опасения законодателей связаны прежде всего не с тем, что современные гарнитуры способны буквально «читать мысли», а с быстрым ростом точности расшифровки сигналов нервной системы человека при помощи ИИ. Уже существующие платформы способны оценивать уровень внимания и усталости, а экспериментальные нейроинтерфейсы — восстанавливать предполагаемую речь и другие намерения пользователя по данным о нервной активности. Поэтому потенциально один и тот же сенсор, первоначально предназначенный для предотвращения засыпания водителя или оптимизации рабочего графика, со временем может использоваться для оценки психологического состояния, продуктивности и пригодности сотрудника.
С января 2027 года в Калифорнии также начнут действовать требования California Privacy Protection Agency к автоматизированным системам принятия значимых решений, что создаст дополнительный уровень контроля над ИИ, влияющим на трудоустройство и другие важные решения. Таким образом, штат пытается сформировать правила для нейротехнологий до того, как массовые потребительские устройства превратят сигналы нервной системы в такой же коммерческий ресурс, каким сегодня стали история браузера, геолокация и профили поведения пользователей.
Надо ли говорить, что работодатели сопротивляются таким нововведениям? Законодатели не скрывают, что они вряд ли смогут помешать крупным корпорациям, которые способны использовать полученные нейронные данные для внутренних нужд и даже для развития собственного бизнеса.
Источник:
