Исследования компании Omdia позволяют оценить, в каких количествах крупные клиенты Nvidia закупали в этом году ускорители вычислений. Поскольку серийно пока выпускаются только ускорители поколения Hopper, речь пойдёт именно о них, без учёта будущих Blackwell. Корпорация Microsoft оказалась крупнейшим покупателем ускорителей Hopper.
Источник изображения: Nvidia
По данным источника, на которые ссылается Financial Times, в этом году компанией Microsoft были куплены 485 000 ускорителей Nvidia поколения Hopper. Ближайшая американская компания, которой удалось приблизиться к Microsoft — это Meta✴ Platforms, но её 224 000 ускорителей Hopper более чем в два раза отстают от результата Microsoft. Последняя увеличила закупки ускорителей Nvidia Hopper более чем в три раза по сравнению с прошлым годом.
Примечательно, что на втором и третьем местах в мировом рейтинге крупнейших клиентов Nvidia оказались китайские ByteDance и Tencent, которым даже в условиях американских санкций удалось заказать примерно по 230 000 ускорителей вычислений поколения Hopper, включая модифицированные с учётом экспортных ограничений H20.
Точная цена чипов Hopper неизвестна, но принято считать, что один ускоритель Nvidia H100 стоит около $30 тыс. Таким образом Microsoft могла потратить по меньшей мере $14,5 млрд только на сами ускорители Nvidia. Это больше годового бюджета многих стран, например, бюджет Беларуси на 2024 год составил около $13,2 млрд.
Microsoft при таких масштабах закупок может создавать передовую вычислительную инфраструктуру не только для себя, но и клиентов. OpenAI, получающая от Microsoft всемерную поддержку, использовала для обучения своей передовой модели o1 облачную инфраструктуру Microsoft Azure.
На пятом месте среди крупнейших покупателей ускорителей вычислений Nvidia оказались принадлежащие Илону Маску (Elon Musk) компании Tesla и xAI, они приобрели около 200 000 ускорителей Hopper. На шестом месте оказался Amazon с 196 000 ускорителей, на седьмом Google с 169 000 ускорителями Nvidia. Стоит напомнить, что Amazon, Google и Meta✴ разрабатывают и собственные ускорители вычислений, включая специализированные процессоры. Google и Meta✴ в собственных системах в текущем году установили примерно по 1,5 млн таких процессоров. Amazon от них немного отстала с 1,3 млн собственных чипов. Microsoft с этой точки зрения сильнее зависит от Nvidia, поскольку собственных процессоров семейства Maia компания в текущем году установила не более 200 000 штук. Продукция AMD на этом фоне не так популярна, но Meta✴ в текущем году закупила 173 000 ускорителей Instinct MI300, а Microsoft приобрела около 96 000 штук.
В общей сложности, компании технологического сектора в этом году на строительство своей серверной инфраструктуры потратили сообща $229 млрд, около 60 % всех инвестиций были распределены между десятью крупнейшими игроками рынка. Nvidia досталось около 43 % средств компаний, направленных на развитие своей вычислительной серверной инфраструктуры. Скорее всего, для неё это значение окажется пиковым, поскольку конкуренция на рынке ускорителей вычислений не стоит на месте.