MWC 2018
2018
Computex
IFA 2018
Китайский стартап Moonshot AI для обучения революционной модели искусственного интеллекта Kimi K3 использовал ускорители Nvidia Blackwell. Чтобы получить передовые вычислительные мощности, компании пришлось обойти как экспортный контроль США, так и импортный контроль Китая.
Источник изображения: nvidia.com
Превосходство над соперником в гонке искусственного интеллекта США и Китай считают своей жизненно важной целью, и одним из очагов напряжённости в этой борьбе являются ускорители Nvidia Blackwell. Вашингтон запретил их экспорт в Китай, а Пекин — их импорт, потому что в стране разрабатывается собственная экосистема чипов для ИИ. Но это не нравится простым разработчикам, которые стремятся обходить эти ограничения. Вот и Moonshot AI, если верить источникам ресурса The Information, всё-таки успешно обучила Kimi K3 на чипах Blackwell и до сих пор стремится получить дополнительный доступ к ним в рамках разработки Kimi K4.
Стартап обратился к двум местным компаниям, которые сумели обзавестись ускорителями Blackwell в своих центрах обработки данных, несмотря на ограничения. Учитывая, что эти ускорители сейчас в дефиците даже при законных схемах приобретения, ни у одной из компаний не оказалось их достаточного количества для обучения Kimi K3. Поэтому Moonshot AI пришлось придумать, как объединить несколько серверов Blackwell в разных ЦОД, чтобы использовать их ресурс. Появление Kimi K3 спровоцировало новый виток гонки разработчиков ИИ в Китае при том, что обучение перспективных моделей сложно или вообще невозможно на многообещающих, но медленно развивающихся китайских ускорителях — они отстают на одно или два поколения от оборудования Nvidia, а списки ожидания расписаны на несколько месяцев.
А вот в задачах инференса Moonshot AI использует ускорители Nvidia HGX H20, которые разрешены для работы в Китае и Вашингтоном, и Пекином — для запуска Kimi K3 компания рекомендует использовать системы с как минимум 64 ускорителями. Из-за таких требований и привлекательности самой модели у компании быстро закончились доступные вычислительные ресурсы, и на подписку тоже установилась очередь. Учитывая, что это модель с открытыми весами, другие поставщики в ближайшее время также предложат доступ к ней.
Кроме того, Moonshot AI теперь закупила оборудование на системах Nvidia GB300, а также арендовала вычислительные мощности GB300 в Таиланде, утверждает советник Белого дома по ИИ Майкл Крациос (Michael Kratsios). Первое является прямым нарушением запрета США, а второе пока ещё легально — Вашингтон пока не вынес прямого запрета китайским компаниям арендовать подсанкционное оборудование. Покупка этих ускорителей нарушает запрет и Пекина, но едва ли Moonshot AI сейчас ждёт наказание за это — компания помогает стране догнать Anthropic и OpenAI.
Источник:
