Сегодня 14 сентября 2026
18+
MWC 2018 2018 Computex IFA 2018
реклама
Теги → дистилляция

Китай отверг обвинения в злонамеренной дистилляции американских ИИ-моделей

Китайские власти выступили с опровержением заявлений США о том, что разработчики систем искусственного интеллекта из Китая в промышленных масштабах проводят «агрессивную и злонамеренную» деятельность, направленную на копирование возможностей передовых американских систем искусственного интеллекта.

 Источник изображения: Arthur Wang / unsplash.com

Источник изображения: Arthur Wang / unsplash.com

На этой неделе ФБР, АНБ и Агентство по кибербезопасности и защите инфраструктуры (CISA) США выступили с совместным заявлением, в котором заявили, что китайские разработчики ИИ «по меньшей мере с 2024 года» осуществляют дистилляцию передовых американских ИИ-моделей, в том числе Anthropic Claude, OpenAI ChatGPT, Google Gemini и SpaceXAI Grok. В документе упоминаются китайские разработчики ИИ DeepSeek, Alibaba, Moonshot AI, Z.ai, и высказывается предположение, что эту деятельность они осуществляют с ведома правительства Китая.

В Министерстве коммерции Китая обвинения спецслужб США назвали безосновательными и отметили, что Вашингтон стремится установить «монополию в отрасли ИИ». «Если США будут заниматься подавлением китайских ИИ-компаний под предлогом борьбы с дистилляцией, Китай пойдёт на решительные ответные меры», — заявили в ведомстве. Дистилляцию в министерстве охарактеризовали как «распространённую практику», которую применяют многие компании в отрасли ИИ по всему миру, в том числе в США, а обвинения американских властей связали с «тревогой и двойными стандартами».

Китайский МИД призвал США «воздержаться от выдвижения необоснованных обвинений и клеветы» в адрес Китая — будучи крупными державами в области ИИ, две страны должны укреплять сотрудничество. «Развитие ИИ в Китае — результат высокого уровня технологической самостоятельности и мощи. Считаем, что все стороны должны укреплять сотрудничество, чтобы содействовать развитию ИИ — открытому, инклюзивному, взаимовыгодному и нацеленному на общее благо», — добавили в ведомстве.

В сентябре ожидается встреча президента США Дональда Трампа (Donald Trump) и китайского лидера Си Цзиньпина (Xi Jinping), на которой будут обсуждаться вопросы регулирования в сфере ИИ.

Спецслужбы США призвали американских разработчиков ИИ лучше защищать LLM от дистилляции китайскими конкурентами

Для крупных игроков сегмента ИИ, базирующихся главным образом в США, не является секретом высокий интерес к их разработкам со стороны китайских конкурентов. Американские спецслужбы тоже убеждены, что китайцы беспардонным образом «дистиллируют» западные ИИ-модели, чтобы сократить отставание собственных.

 Источник изображения: Unsplash, Towfiqu barbhuiya

Источник изображения: Unsplash, Towfiqu barbhuiya

Тройка американских спецслужб, объединившая НБА, ФБР и CISA (Агентство по кибербезопасности и защите инфраструктуры), на этой неделе выступила с совместным заявлением, обвинив китайские DeepSeek, Moonshot AI, Alibaba Group, MiniMax, StepFun и Z.ai в практике регулярной дистилляции американских ИИ-моделей «в промышленных масштабах» с целью ускорения обучения собственных систем. По версии перечисленных ведомств, данные китайские компании подобной деятельностью занимаются с 2024 года, как минимум.

В отчёте спецслужб приводятся подробности о том, какая из китайских компаний использовала какие американские ИИ-модели для дистилляции, и с какими конкретными целями. Среди прочих упоминается улучшение способности китайских ИИ-моделей решать математические задачи и анализировать программный код. По мнению американских ведомств, подобная активность китайских разработчиков осуществлялась с ведома властей КНР и предусматривала намеренное нарушение существующих ограничений на использование американских моделей.

Представители китайского посольства в США в ответ на запрос Bloomberg данные обвинения назвали «преднамеренной атакой на китайских разработчиков и прогресс в отрасли ИИ». Подобные попытки политизации коммерческой сферы, по словам китайских дипломатов, лишь сдерживают прогресс в мировой отрасли ИИ, а также вредят интересам всех участников рынка.

Американские спецслужбы призвали разработчиков в США усилить меры защиты от дистилляции своих моделей и чаще обмениваться данными друг с другом, которые позволят американским компаниям выявить подобную активность. Правительство США уже рассматривает ряд мер, призванных пресечь подобную практику, и новые свидетельства спецслужб могут ускорить соответствующий законодательный процесс. Нарушителям с китайской стороны могут грозить американские санкции, как признался в июле министр финансов США Скотт Бессент (Scott Bessent).

Китайские ИИ-компании массово «доят» Claude для обучения своих моделей — в ход идут тысячи аккаунтов и даркнет

Расположенные в недружественных США странах компании незаконным образом получают доступ к моделям искусственного интеллекта Claude и обучают на них собственные нейросети для продажи их копий по более низкой цене — этот процесс называется дистилляцией, рассказал CNBC глава отдела по анализу угроз в Anthropic Джейкоб Кляйн (Jacob Klein).

 Источник изображения: anthropic.com

Источник изображения: anthropic.com

Сформирована целая незаконная экосистема, направленная на получение доступа к Claude и другим моделям — на платформе компании в промышленных масштабах регистрируются учётные записи. Дистилляция позволяет разработчикам ИИ-моделей использовать результаты работы других компаний для создания конкурентоспособных продуктов за ничтожно малую часть стоимости. Американские власти пока не принимают никаких мер, чтобы не создавать препятствий для отрасли ИИ, чтобы побеждали лучшие и наиболее экономически эффективные решения. Но в Белом доме уже пригрозили привлечь замешанные в этих действиях компании к ответственности.

Китайскую лабораторию ИИ Moonshot в компании Anthropic считают одной из тех, кто копирует её технологии. В июле модель Moonshot Kimi K3 произвела фурор в технологической отрасли — она достаточно мощная, а работа с ней обходится относительно недорого. Кроме того, веса этой модели доступны для всех желающих — её можно свободно использовать и дорабатывать. В дистилляции моделей Claude, по версии Anthropic, были также замешаны китайские лаборатории DeepSeek и MiniMax; компания сообщила и о масштабной атаке со стороны китайского технологического гиганта Alibaba, который регулярно выпускает новые модели Qwen.

Проблема постепенно выходит за рамки обычного нарушения условий использования Claude. Вокруг доступа к американским ИИ-моделям сформировалась целая инфраструктура посредников, которые помогают обходить ограничения, предоставляют большое количество учётных записей, а в некоторых случаях используют скомпрометированные аккаунты и теневые интернет-площадки. Экономический смысл такой схемы очевиден: вместо самостоятельного создания огромного массива высококачественных обучающих данных разработчик может использовать более совершенную модель конкурента в качестве «учителя», значительно сокращая затраты на совершенствование собственного ИИ.

Anthropic рассматривает происходящее и как проблему национальной безопасности США. Компания предупреждает, что дистилляция позволяет китайским разработчикам получать часть возможностей передовых американских ИИ-моделей даже в условиях ограниченного доступа к наиболее производительным ускорителям. Поэтому борьба с подобными схемами становится ещё одним элементом технологического противостояния США и Китая наряду с экспортными ограничениями на поставки передовых чипов.

Американские разработчики пытаются защищать свои платформы от подобных действий, но китайские конкуренты, уверены в компании, обращаются даже к ресурсам в даркнете, где получают данные о взломанных учётных записях на платформах ИИ. Получив доступ к системам Anthropic, злоумышленники начинают активно задавать Claude вопросы и сохранять ответы — таких вопросов задаются не десятки, а тысячи. Ещё один признак дистилляции — создание нескольких тысяч учётных записей для выполнения одной и той же задачи. Полностью остановить эту проблему непросто, признал господин Кляйн, но можно замедлить развитие такой деятельности. Проблема в том, сетует эксперт, что китайские конкуренты в результате создают модели, в которых отсутствуют механизмы защиты, что создаёт серьёзные угрозы.

ByteDance запретила своим исследователям дистиллировать ИИ-модели конкурентов

Основатель китайского технологического гиганта ByteDance запретил исследователям искусственного интеллекта заниматься дистилляцией моделей конкурирующих иностранных компаний. Причиной запрета послужили напряжённые отношения между Вашингтоном и Пекином. Примечательно, что ByteDance не входит в число компаний, которые американские Anthropic и OpenAI обвиняют в использовании своих моделей, что и вызвало угрозы новых санкций со стороны США.

 Источник изображения: ByteDance

Источник изображения: ByteDance

По данным информационного бюллетеня Pekingnology, эта политика действует с 2023 года, и избежание ответных мер со стороны США является потенциальным коммерческим приоритетом. Эти правила вызвали ожесточённые дебаты в ByteDance, чьи лучшие модели были превзойдены более мелкими китайскими лабораториями, что подчёркивает конкурентное давление, с которым сталкивается отрасль.

Пекин стремится к созданию более совершенного ИИ с меньшими вычислительными ресурсами. По мнению аналитиков, американские модели в настоящее время предлагают лучшее соотношение цены и качества, но конвергенция, вероятно, продолжится.

Ранее Anthropic обвинила Moonshot и ещё ряд китайских фирм, включая DeepSeek, MiniMax Group и Alibaba Group, в несанкционированном использовании её модели для дистилляции, а OpenAI выдвинула аналогичные обвинения против DeepSeek. Под дистилляцией подразумевается метод, когда более старая ИИ-модель, «учитель», используется для обучения более новой модели, «ученика», что позволяет передать ей возможности «учителя» с гораздо меньшими затратами, чем при создании оригинальной модели с нуля.

Эта проблема вынудила конкурирующие компании OpenAI, Anthropic и Google к сотрудничеству, чтобы совместными усилиями попытаться пресечь действия китайских конкурентов по предполагаемому использованию данных их передовых моделей для обучения своих.

Anthropic удалила из Claude скрытую защиту от дистилляции ИИ-моделей китайскими разработчиками

Anthropic заявила, что в обновлении Claude Code от 1 июля из приложения удалён добавленный несколько месяцев назад скрытый код, который призван выявлять других разработчиков систем искусственного интеллекта, пытающихся украсть данные её моделей.

 Источник изображения: anthropic.com

Источник изображения: anthropic.com

«Этот эксперимент мы запустили в марте, и он был призван предотвращать злоупотребление учётными записями со стороны неавторизованных реселлеров и защитить от дистилляции. С тех пор компания разработала более эффективные меры защиты, и мы на самом деле давно собирались его удалить», — пояснил инженер Anthropic Тарик Шихипар (Thariq Shihipar).

Эксперимент заключался в применении метода стеганографии — сокрытия секретных данных на виду — к контексту системы Claude Code, передаваемому на серверы Anthropic. Код проверял переменную базового URL, используемую для маршрутизации запросов API к шлюзу или прокси-серверу. Если базовый URL переопределяется, код проверяет часовой пояс системы и производит сверку со списком адресов известных китайских лабораторий и других компаний, которые занимаются ИИ, реселлеров учётных записей и доменов шлюзов.

«Claude Code незначительно изменяет системный запрос, используя почти невидимые маркеры Unicode. Классификация прокси/шлюза кодируется в предложение, которое выглядит как обычная фраза на английском. В ней скрывается список доменов в форматах XOR и base64. Функция не вредоносная, но это странный выбор для разработчика, рассчитывающего на доверие», — пояснил эксперт под псевдонимом Thereallo. Компания также использовала средства обнаружения с помощью классификаторов и систем поведенческой идентификации, обмен информацией с другими лабораториями ИИ, контроль доступа и контрмеры, затрудняющие использование ответов модели для воспроизведения её поведения.

С утечкой исходного кода приложения Claude Code стало известно ещё об одном средстве защиты ИИ Anthropic от дистилляции — включении файла Typescript с пометкой «ANTI_DISTILLATION_CC». При установке этой пометки в запросы по API внедряются фиктивные данные, призванные быть опасными при обучении сторонних моделей.

Anthropic обвинила Alibaba в крупнейшей дистилляции Claude для обучения своих ИИ-моделей

Американский разработчик систем искусственного интеллекта Anthropic обвинил китайского технологического гиганта Alibaba в незаконном использовании возможностей модели Claude. Этот инцидент, подчеркнули в Anthropic, стал крупнейшей известной атакой подобного рода на компанию, передаёт Reuters со ссылкой на письмо разработчика.

 Источник изображения: anthropic.com

Источник изображения: anthropic.com

Действия Alibaba характеризуются как попытка «дистилляции» — обучения менее способной модели ИИ на ответах более способной. Атака производилась в период с 22 апреля по 5 июня и включала более 28,8 млн единиц обмена сообщениями с Claude, которое осуществляли почти 25 000 подставных учётных записей. При помощи дистилляции, говорят в Anthropic, Китай пытается ускорить освоение передовых возможностей Mythos. Кампанию провели операторы, предположительно связанные с Alibaba и её ИИ-отделом Qwen.

Свои соображения Anthropic изложила в письме, которое направила американским сенаторам. Компания выразила поддержку усилиям правительства страны в борьбе с кибератаками, включая партнёрство с частными компаниями, которые специализируются на искусственном интеллекте. В феврале Anthropic выдвинула аналогичные обвинения китайским DeepSeek (150 000 единиц обмена сообщениями), Moonshot AI (3,4 млн) и MiniMax (13 млн). Эти атаки, заявил разработчик, становятся всё более «интенсивными и изощрёнными», требуя соответствующих ответных мер.

Ранее Пентагон добавил Alibaba в список компаний, связанных с китайской армией, а DeepSeek удалось избежать этой участи, потому что ведомство пытается избежать эскалации напряжённости в отношениях с Пекином. И через два дня после отправки Anthropic письма компания была вынуждена закрыть доступ к своим передовым моделям Mythos и Fable.


window-new
Soft
Hard
Тренды 🔥
Microsoft выпустила 974 исправления безопасности для разных продуктов — это новый рекорд 14 ч.
«Диабло победил»: Blizzard раскрыла первые сюжетные и геймплейные подробности Diablo V 16 ч.
Глава Anthropic предложил замедлить развитие ИИ, эту идею поддержали Сэм Альтман и Илон Маск 19 ч.
OpenAI не выйдет на IPO в этом году, поскольку считает момент неподходящим из-за ситуации с безопасностью ИИ 20 ч.
Новая статья: Onimusha: Way of the Sword — возвращение запылившегося самурая. Рецензия 13-09 00:09
Warcraft 3 получила первое за 23 года дополнение с новой кампанией — трейлеры и подробности Forsaken Kingdom 12-09 23:13
Blizzard неожиданно анонсировала Diablo V — игра выйдет весной 2029 года 12-09 22:09
Blizzard анонсировала амбициозный шутер с открытым миром по StarCraft — первый трейлер и релиз в 2030 году 12-09 21:42
Цифровой мозг мухи отправили торговать на криптобиржу 12-09 17:24
Apple разработала ИИ-модель SimpleDesign для проектирования белков 12-09 13:22
Новая статья: Обзор игрового ноутбука Acer Nitro V 16S: флагманские амбиции 2 ч.
Oracle поставила более 300 тыс. GPU — почти втрое больше, чем в предыдущем квартале 4 ч.
Минэнерго России предложило строить ИИ ЦОД в Сибири для распределения нагрузки на энергосистему страны 4 ч.
Apple разрабатывает игровые контроллеры для iPhone — они выйдут под брендом Beats 5 ч.
Техногиганты в этом году успели сократить 128 000 сотрудников: больше, чем за весь прошлый год 18 ч.
США жертвуют экологией ради ИИ: администрация Трампа ослабила требования — это может затронуть миллионы людей 12-09 21:48
NewPhotonics представила оптический движок NPC50506 на 6,4 Тбит/с с интегрированным лазером 12-09 20:59
ASUS выпустила СХД высокой плотности OJ340A-RS60 на базе AMD EPYC Genoa 12-09 20:53
Asus представила монитор ProArt Display OLED PA27UCDV для профессионалов 12-09 18:10
Biostar внезапно начала продвигать видеокарту GeForce GT 730 на чипе из 2014 года 12-09 17:23