MWC 2018
2018
Computex
IFA 2018
Технологии искусственного интеллекта не только способствуют повышению производительности труда, но и несут в себе некоторые долгосрочные угрозы, предупреждают эксперты. Так, гендиректор Microsoft Сатья Наделла (Satya Nadella) рассказал о опасности, которую таит интеграция проприетарных ИИ-сервисов в корпоративные системы.
Источник изображения: microsoft.com
«По сути, вы платите за [искусственный] интеллект дважды: первый раз деньгами, а второй — кое-чем гораздо более ценным: своими уникальными знаниями, которые приходится раскрывать, чтобы этот интеллект приносил пользу. Чем более качественной работы модели вы хотите добиться, тем больше таких знаний ей приходится „скармливать“. <..> Модели учатся на „выхлопе“ от написанных пользователями запросов, используемых ИИ-агентами инструментов и, что особенно важно, на исправлениях, которые пользователи вносят, когда модель ошибается. Каждое такое исправление трансформируется в ценные корпоративные сведения», — предупредил глава Microsoft.
Такие знания конкурент никогда не смог бы купить, но предприятия обучают на них чужие ИИ-модели, передавая ценную информацию разработчикам ИИ. И если разработчики ИИ могут беспрепятственно собирать эти данные, то и предприятиям должно быть позволено в ответ «дистиллировать» эти модели — то есть на основе полученных данных создавать собственные, часто более дешёвые. На практике этого не происходит: Anthropic обвинила китайских разработчиков открытых ИИ-моделей в дистилляции своих систем и призвала американские власти ужесточить экспортный контроль. Господин Наделла, однако, уверен, что разработчики ИИ пытаются применять двойные стандарты: свободно обучают свои модели на общедоступных данных со всего мира, но запрещают другим делать то же в отношении собственных разработок. Особую обеспокоенность у него вызывает практика, когда создатели ИИ «оставляют за собой право обучать [модели] на данных, полученных в ходже использования и взаимодействия с клиентами».
Гендиректор Microsoft предлагает, чтобы компании «сохраняли право собственности» на свои данные, в том числе на запросы и обратную связь. Для этого следует создавать в облаке «проприетарные среды обучения» и обеспечить клиентам возможность легко переключаться между ИИ-моделями разных поставщиков, чтобы не зависеть от какого-либо одного из них. На практике бизнес уже начал реализовывать подобные механизмы защиты данных, но действует несколько иначе — развёртывает на собственных мощностях открытые ИИ-модели, которые почти не уступают проприетарным. Microsoft инвестировала и в OpenAI, и в Anthropic; и если её гендиректор призывает бизнес с осторожностью использовать в работе проприетарные ИИ-модели, логично предположить, что эта тенденция будет лишь набирать обороты. «Потребляя интеллект, вы создаёте интеллект. И то, что вы создаёте, должно принадлежать вам», — утверждает Сатья Наделла.
Источник:
