В формировании облачной вычислительной инфраструктуры принимают участие сразу несколько компаний, поэтому о начале эксплуатации систем на основе ускорителей Nvidia GB300 NVL72 (Blackwell Ultra) заявили одновременно сама Nvidia, провайдер CoreWeave, который их получил и установил, а также Dell, которая занималась их поставками.

Источник изображения: Nvidia

По словам CoreWeave, переход на ускорители Blackwell Ultra позволит клиентам ощутить сокращение времени реакции рассуждающих языковых моделей в десять раз, а производительность в пересчёте на ватт потребляемой электроэнергии увеличится в пять раз. В одной стойке GB300 NVL72 содержатся 72 графических процессора Blackwell Ultra и 36 центральных процессоров Grace. По словам Dell, данные системы собираются и проходят тестирование на территории США.

Данные заявления вызвали рост курса акций CoreWeave на 6 %, акции Dell Technologies подорожали примерно на 2 %, а ценные бумаги Nvidia укрепились в цене и того меньше, но она накануне приблизилась к абсолютному мировому рекорду по величине капитализации среди публичных компаний, так что ей грех жаловаться на отсутствие внимания инвесторов. По данным Nvidia, ускорители поколения Blackwell Ultra способны в единицу времени создавать в 50 раз больше ИИ-контента, чем базовый вариант Blackwell. В мае руководство Nvidia подчеркнуло, что поставки Blackwell Ultra начнутся в третьем квартале, и стоило наступить июлю, как нашёлся первый клиент компании в лице CoreWeave, заявивший о доступности соответствующих решений. Относительно небольшому провайдеру облачных вычислительных мощностей помогло то, что Nvidia является акционером CoreWeave.

Ажиотажный спрос на ускорители вычислений NVIDIA для систем искусственного интеллекта уже привёл к дефициту данного вида продукции, и старшая карта H100 с архитектурой Hopper востребована в такой степени, что все доступные объёмы таких ускорителей уже распределены до начала следующего года.

Источник изображения: NVIDIA

По крайней мере, уверенность в этом в интервью ресурсу Barron’s выразил технический директор стартапа CoreWeave Брайан Вентуро (Brian Venturo), поскольку приближённый к NVIDIA поставщик инфраструктурных решений для ускорения вычислений силами GPU имеет актуальное представление о положении дел на рынке. Как пояснил Брайан Вентуро, ещё в первом квартале текущего года с доступом к нужным объёмам ускорителей проблем не было, но в апреле всё резко изменилось. Сроки исполнения заказов растянулись до конца текущего года, и спрос неожиданно подскочил буквально за одну неделю. Ускорители теперь нужны не только крупным облачным провайдерам, но и исследовательским лабораториям, и крупным предприятиям, которые экспериментируют с внедрением систем искусственного интеллекта.

Как поясняет этот поставщик ускорителей, сейчас желающие получить самую производительную версию в исполнении NVIDIA, которая обозначается H100, вынуждены рассчитывать сроки поставки на первый или второй квартал следующего года. Непосредственно CoreWeave, инвестором которой является сама NVIDIA, сможет возобновить закупку ускорителей серии H100 не ранее второго или третьего квартала следующего года. По словам руководителя компании, решения NVIDIA в этой сфере востребованы в силу наличия развитой экосистемы для разработчиков, универсальности и сопутствующей инфраструктуры передачи информации в виде скоростных решений InfiniBand.