MWC 2018
2018
Computex
IFA 2018
Ведущие американские разработчики ИИ-моделей уже не раз обвиняли китайских конкурентов в дистилляции собственных продуктов, и OpenAI недавно предъявила китайской Moonshot претензию по поводу массового извлечения данных для обучения моделей этого стартапа. Соответствующую подозрительную активность OpenAI заметила в начале июля.
Источник изображения: Moonshot AI
Извлечённые китайскими разработчиками данные, по мнению создателей GPT, могут быть использованы ими для воспроизведения возможностей ИИ-моделей OpenAI в части рассуждений, помимо прочего. По словам представителей OpenAI, с начала июля компания наблюдала тысячи попыток получить скрытую информацию о том, как её собственные ИИ-модели решают задачи, требующие рассуждений и формирования логических выводов. Эти попытки предпринимались пользователями её ИИ-моделей, предположительно связанными с китайской Moonshot AI. Координированные усилия по извлечению нужных данных начались в июле, и в том же месяце в пике они исчислялись 16 тысячами запросов. При этом OpenAI не уверена, что все операторы с китайской стороны действовали в интересах одной только Moonshot, но именно этот стартап играл ключевую роль в этих попытках.
Быстрый прогресс способностей китайской ИИ-модели Kimi K3 компании Moonshot уже вызывал у американских чиновников вопросы к условиям, обеспечившим подобный успех. Китайский стартап подозревается в активной дистилляции передовых ИИ-моделей OpenAI, Anthropic и Google. По словам представителей OpenAI, подобная активность с китайской стороны нарушает правила использования ИИ-моделей этой американской компании. Сама OpenAI при этом поддерживает экосистему ИИ-моделей с открытыми весами, сторонниками которой являются многие китайские разработчики, и надеется, что США смогут сохранить мировое лидерство и в этой сфере.
OpenAI предпринимает попытки защитить свои ИИ-модели от дистилляции сторонними разработчиками, скрывая логические цепочки, которые обеспечивают пользователей искомыми ответами. Действующим в интересах Moonshot операторам, как отмечает американский стартап, удалось обойти эти ограничения, скопировав зашифрованную информацию об этих цепочках из одного диалога, и попросив ИИ-модель расшифровать её в отдельном запросе. Китайцы пытались получить информацию о версии рассуждающего алгоритма, которая применяется только на серверах OpenAI, но не смогли её расшифровать. Эволюционный характер этих атак после усиления мер защиты со стороны OpenAI, по мнению представителей стартапа, является доказательством востребованности искомых данных для обучения китайских ИИ-моделей.
По данным отчёта Anthropic от августа этого года, Moonshot по активности своих попыток дистилляции ИИ-моделей этого американского стартапа уступает только Alibaba, занимая второе место, а на третьем расположилась китайская DeepSeek. Разработчики из КНР также пытаются получить доступ к передовым вычислительным мощностями на чипах Nvidia, которые располагаются за пределами страны. Поставки многих ИИ-ускорителей американского происхождения в Китай ограничены правилами экспортного контроля США. Китайские разработчики при этом сотрудничают друг с другом. Например, Alibaba договорилась о предоставлении Moonshot AI доступа к примерно 20 000 чипов Nvidia в своей вычислительной инфраструктуре.
В прошлом месяце Anthropic также обвинила Moonshot в том, что та просто направляла тысячи запросов своих пользователей на модели этого американского стартапа, выдавая полученные результаты за свои собственные. При этом ответы ИИ-моделей серии Claude использовались Moonshot для обучения собственных моделей Kimi. Anthropic количество запросов с китайской стороны, предположительно связанных с дистилляцией собственных моделей, измеряет миллионами штук. Раннее обнаружение такой активности позволяет создателям американских моделей блокировать её, сокращая объём извлекаемой китайскими разработчиками информации. Китайские чиновники не раз отвергали обвинения в адрес национальных разработчиков ИИ-систем в неконкурентном поведении.
OpenAI пытается утвердить стандарты обмена информацией о безопасности и угрозах для своих ИИ-моделей на законодательном уровне, и рассчитывает, что к процессу присоединятся и сторонники моделей с открытыми исходными весами, коих немало среди китайских конкурентов. Компания уже делится информацией о подобных угрозах с другими участниками рынка и правительственными структурами США. Для формирования постоянного обмена такой информацией американское антимонопольное законодательство должно быть изменено, как отмечает Bloomberg.
На этой недели американские техногиганты также подписали соглашение о саморегулировании ИИ-отрасли, которое подразумевает создание условий для независимого аудита выпускаемых ИИ-моделей на предмет общественной безопасности. Этот шаг стал ответом на заявления самих разработчиков о необходимости уделять внимание безопасности распространяемых ИИ-моделей, а не просто гнаться за регулярным их обновлением и совершенствованием.
Источник:
