Чемоданный ИИ: в Китае придумали, как обучать модели на чипах Nvidia, которые нельзя ввезти в страну

Сотрудники китайских компаний, работающих в сфере искусственного интеллекта, вывозят жесткие диски и SSD с данными для обучения нейросетей в другие страны, а затем возвращают обученные модели в Поднебесную, выяснили журналисты The Wall Streel Journal. Такой подход помогает им обходить экспортные ограничения со стороны США, которые запрещают поставку в страну передовых ускорителей для обучения ИИ-моделей.

Источник изображения: AI

По данным источника, в начале марта четыре китайских инженера прибыли в Малайзию из Пекина. Каждый из них привёз с собой чемодан с 15 жёсткими дисками, на которых содержалось 80 Тбайт электронных таблиц, изображений и видеоклипов, предназначенных для обучения нейросети. Работодатель этих инженеров арендовал в одном из малазийских центров обработки данных около 300 серверов с передовыми графическими ускорителями Nvidia. Инженеры использовали это оборудование и привезённые с собой данные для обучения нейросети, которую они планировали доставить в Китай.

С 2022 года США планомерно ограничивает поставки в Китай высокотехнологичной продукции, такой как ускорители для искусственного интеллекта, объясняя свои действия соображениями национальной безопасности. Несмотря на это, китайские ИИ-компании добились успеха, используя различные лазейки и обходные пути. В некоторых случаях китайские разработчики заменили американские ускорители отечественными аналогами. В других случаях использовались обходные пути доставки передового оборудования через третьи страны.

Отраслевые источники отмечают, что последние месяцы делать это стало сложнее, в том числе из-за усиливающегося давления со стороны США. Это подталкивает Китай к поиску новых обходных путей. Один из них предполагает вывоз данных в другую страну Юго-Восточной Азии или Ближнего Востока, где есть возможность задействовать передовые ускорители для обучения нейросетей.

«Это то, что нас постоянно беспокоило», — сказала Теа Кендлер (Thea Kendler), сотрудница Министерства торговли, отвечавшая в администрации предыдущего американского президента за экспортный контроль, имея в виду китайские компании, получающие доступ к передовым ИИ-чипам. Слои посредников отделяют китайских пользователей американских ИИ-чипов от их производителей, таких как Nvidia. Это усложняет контроль за поставками и выявление нарушений американских санкций.

В последние дни своего правления администрация Байдена предложила установить лимиты на закупки американских чипов для каждой страны. Предполагалось, что это должно осложнить обслуживание китайского спроса такими странами, как Малайзия. В мае этого года администрация Трампа заявила, что откажется от введения лимитов для всех стран из-за нежелания возлагать на Nvidia и другие американские компании ненужное бремя регулирования. При этом власти выпустили руководство, предупреждающее американские компании о необходимости принять меры, чтобы не допустить использования американских ИИ-чипов для обучения китайских нейросетей.

Что касается упомянутого ранее случая, то, по данным источника, китайская ИИ-компания несколько месяцев прорабатывала схему обучения нейросети. Было принято решение, что быстрее всего будет доставить в Малайзию диски с данными для обучения, поскольку передача их через интернет заняла бы гораздо больше времени. До отправки в Малайзию инженеры компании оптимизировали наборы данных в течение нескольких недель.

Источник изображения: Mika Baumeister / Unsplash

В июле прошлого года китайские инженеры обращались в тот же малазийский ЦОД через дочернюю сингапурскую компанию. Поскольку Nvidia и поставщики продукции компании стали проводить более строгий аудит конечных пользователей, малазийский ЦОД попросил китайскую компанию работать через малазийское юрлицо, чтобы избежать лишних проверок. После этого китайская компания зарегистрировала юрлицо в Куала-Лумпуре. В качестве руководителей были указаны три гражданина Малайзии, а материнской компанией — оффшорная холдинговая компания.

Чтобы не вызывать подозрений на малазийской таможне, китайские инженеры упаковали свои жёсткие диски в четыре разных чемодана. В прошлом году они совершали аналогичную командировку, но тогда все диски перевозили в одном чемодане. Недавно они вернулись в Китай вместе с сотнями гигабайт данных, включая параметры ИИ-модели, которая станет основой ИИ-алгоритма.

Вся эта процедура, хоть и выглядит громоздкой, но позволила избежать необходимости ввозить в Китай аппаратное обеспечение, такое как ИИ-ускорители и серверы. Это становится всё сложнее, поскольку власти стран Юго-Восточной Азии стали активнее пресекать транзит технологических продуктов в Китай. Так власти Сингапура заявили недавно, что, хотя по закону они не обязаны обеспечивать соблюдение экспортного контроля в других странах, они не потерпят, чтобы какие-либо компании использовали свою связь со страной для обхода санкций.

В Юго-Восточной Азии быстрыми темпами разворачиваются ЦОД для обслуживания западных и китайских клиентов. По оценкам компании Jones Lang LaSalle, в Сингапуре, Малайзии, Таиланде и Индонезии насчитывается около 2000 мегаватт мощностей ЦОД, что эквивалентно общим мощностям Лондона и Франкфурта — крупнейших европейских рынков ЦОД. В последние месяцы компании из Юго-Восточной Азии активно покупают ИИ-ускорители для ЦОД. На данный момент администрация Трампа не намерена как-то ограничивать закупки для представителей этих стран.