Huawei начала поставлять клиентам ИИ-кластеры CloudMatrix 384 — они мощнее, чем Nvidia GB200 NVL72

Huawei начала поставлять в центры обработки данных, обслуживающие отрезанные от поставок чипов Nvidia из-за американских санкций китайские технологические компании, усовершенствованные мощные кластеры CloudMatrix 384.

Почему ИИ никак не сесть на безматричную диету

HUAWEI FreeArc: вероятно, самые удобные TWS-наушники

Пять причин полюбить HONOR Pad V9

Обзор умных часов HUAWEI WATCH 5: часы юбилейные

Фитнес-браслет HUAWEI Band 10: настоящий металл

Пять причин полюбить HONOR X8c

Hollow Knight: Silksong — песнь страданий и радостей. Рецензия

Пять причин полюбить HONOR Magic7 Pro

К настоящему моменту Huawei реализовала более десяти комплексов CloudMatrix 384. Отраслевых аналитиков впечатлила скорость, с которой Huawei разработала и наладила поставки CloudMatrix — систем, в которые входят 384 ускорителя искусственного интеллекта, и которые способны обеспечить достаточную вычислительную мощность для обучения моделей ИИ и последующего запуска соответствующих сервисов. Эти кластеры превосходят по производительности системы Nvidia, признали эксперты SemiAnalysis.

В апреле Вашингтон запретил Nvidia поставлять в Китай даже специально разработанные с учётом санкционных ограничений ускорители H20 — компания предупредила, что из-за этого её выручка снизится на $5,5 млрд. В ответ на эту меру Huawei ускорила разработку собственных чипов, чтобы помочь местным технологическим компаниям конкурировать с разработчиками из других стран. CloudMatrix включает 384 процессора Huawei Ascend 910C, которые сами по себе менее производительны, чем актуальные Nvidia GB200, но китайский кластер в целом предлагает более высокую вычислительную мощность, чем системы Nvidia NVL72 на базе 72 чипов GB200. По оценкам самой Huawei, CloudMatrix 384 на 67 % производительнее, чем GB200 NVL72, и более чем в три раза превосходит американского конкурента по совокупному объёму памяти. Чтобы компенсировать более низкую производительность отдельных чипов, Huawei использовала свой опыт в телекоммуникациях и применила в своих кластерах передовые сетевые технологии.

Но есть у CloudMatrix 384 и значительные недостатки. Из-за большего числа чипов одна такая система потребляет значительно больше энергии, чем Nvidia GB200 NVL72, а программирование систем Huawei требует бо́льших усилий со стороны разработчиков, чем взаимодействие с Nvidia CUDA — расходы на рабочую силу возрастают в три–пять раз. Учитывая, что Китай не испытывает дефицита в электроэнергии и кадровых ресурсах, кластер CloudMatrix 384 представляется жизнеспособным решением для клиентов, которые лишены возможности закупать оборудование Nvidia. Стоимость Huawei CloudMatrix 384 составляет ориентировочно 60 млн юаней ($8,2 млн), но точная цена зависит от индивидуального контракта. Исходная цена Nvidia GB200 NVL72 установлена на отметке около $3 млн — она может варьироваться в зависимости от производителя готового оборудования и потребностей клиента.