Не только GPU: Nvidia всерьёз взялась за рынок CPU и уже отгрузила сотни тысяч серверов

Вице-президент Nvidia по высокопроизводительным вычислениям и изобретатель CUDA Иэн Бак (Ian Buck) сообщил, что компания отгрузила «сотни тысяч» серверов на центральных Arm-процессорах Grace. Ранее для их развёртывания Nvidia заключила партнёрское соглашение с Meta✴. Однако реальные масштабы экспансии Nvidia на рынок центральных процессоров могут быть ещё больше, поскольку компания активно пытается конкурировать с Intel и AMD.

Nvidia стала доминирующей силой в Кремниевой долине благодаря ажиотажному спросу на её графические процессоры во время беспрецедентного строительства центров обработки данных для ИИ. Однако с момента пика в начале этого года рыночная капитализация Nvidia снизилась примерно на $1 трлн, поскольку инвесторы обратили свой взор на производителей центральных процессоров, которые стали не менее востребованы в результате развития ИИ-агентов.

Nvidia стремится «оседлать» и этот тренд со своим центральным процессором Vera, который разработан специально для таких задач. Однако, по словам Nvidia, даже до недавнего роста популярности агентов, компания наблюдала спрос на свои процессоры для ресурсоёмких задач. Они массово развёртывались для бэкэнда и операций с большими объёмами данных.

Устройство чипов Vera значительно отличается от конкурирующих процессоров Intel и AMD. Обе компании достаточно давно отказались от монолитных кристаллов в пользу чиплетов, что позволило достичь чрезвычайно высокой плотности ядер в ущерб задержкам и когерентности. Чип Vera в этом отношении кардинально отличается, поскольку не только построен на одном кристалле, но и выделяет значительную его часть под шину.

«Одна из причин, почему у нас нет 128 ядер, заключается в том, что мы выделили большую часть площади кристалла под шину [соединяющую ядра], — пояснил Бак. — Внутри этого процессора находится 3,4 Тбайт/с пропускной способности, которая позволяет каждому ядру взаимодействовать с каждым кэшем, каждым контроллером памяти на полной скорости без каких-либо коллизий». Суммарная пропускная способность памяти через интерфейс LPDDR5X достигает 1,2 Тбайт/с (14 Гбайт/с на ядро).

Но, как и в случае с чиплетными архитектурами, где пришлось пойти на компромиссы в производительности каждого потока, Vera, вероятно, также пойдёт на компромиссы ради своей уникальной архитектуры. Большинство рабочих нагрузок в ЦОД по-прежнему представляют собой «устаревшие» задачи, для решения которых гиперскейлеры уже разработали соответствующие решения, и даже при, казалось бы, ненасытном спросе на инфраструктуру ИИ, вряд ли ситуация изменится в ближайшие несколько лет.

Чипы Vera находятся в полномасштабном производстве вместе с инфраструктурой ИИ следующего поколения от Nvidia, включая графические процессоры Rubin, сетевые карты ConnectX-9, коммутаторы Ethernet SpectrumX и различные компоненты, используемые для сборки стойки Vera Rubin NVL72. Компания заявляет, что в стойку входит около 1,3 миллиона компонентов, а в её производстве принимают участие более чем 300 партнёров Nvidia по всему миру.

По оценкам Nvidia, потенциальный рынок процессоров в 2030 году может достигнуть $200 млрд, что является довольно оптимистичным заявлением по сравнению с прогнозами других представителей отрасли, находящихся в диапазоне от $120 млрд до $170 млрд. По мнению аналитиков Morgan Stanley, ИИ-агенты могут добавить до $60 млрд к рынку процессоров для ЦОД. «Мир не будет обслуживаться одной моделью процессора, и это не входит в наши планы», — подчеркнул Бак в своём интервью.