Высокий уровень спроса на ИИ-серверы стимулировал спрос на оперативную память с высокой пропускной способностью (HBM). По данным TrendForce, основными поставщиками памяти HBM в 2022 году стали SK hynix (50 % рынка), Samsung (40 % рынка) и Micron (10 % рынка). Аналитики считают, что по итогам нынешнего года южнокорейская SK hynix займёт больше половина глобального рынка HBM.

Источник изображения: SK hynix

Во второй половине 2023 года начнётся производство серверных ускорителей NVIDIA H100 и AMD MI300 с памятью HBM3. В настоящее время только SK hynix запустила серийное производство памяти этого типа. Аналитики считают, что по итогам всего года это поможет южнокорейскому производителю увеличить долю рынка до 53 %. Ожидается, что Samsung и Micron начнут выпускать память HBM3 в конце этого или начале следующего года. По прогнозам аналитиков, доля этих компаний на рынке по итогам года составит 38 % и 9 % соответственно.

Аналитики TrendForce прогнозируют, что объём поставок ИИ-серверов увеличится на 15,4 % в 2023 году. Более того, в период с 2023 по 2027 годы прогнозируется 12,2 % годовой рост поставок ИИ-серверов. Этому будет способствовать запуск сервисов и услуг на основе генеративных нейросетей. Ожидается, что спрос на ИИ-серверы будут поддерживать крупные поставщики облачных услуг, такие как Google, Amazon, Meta✴ и Microsoft, а также IT-гиганты, занимающиеся разработкой сервисов на основе ИИ, такие как Microsoft, Meta✴, Baidu, ByteDance и др.

Источник изображения: TrendForce

В сообщении TrendForce отмечается, что рост спроса на ИИ-серверы стимулирует продажи серверной памяти DRAM, SSD и HBM. В то время как серверы общего назначения обычно имеют 500-600 Гбайт памяти DRAM, ИИ-серверы требуют значительно больших объёмов — в среднем 1,2-1,7 Тбайт памяти. Для твердотельных накопителей корпоративного уровня приоритет по-прежнему отдаётся памяти DRAM и HBM, но пока не наблюдается значительного толчка в плане увеличения ёмкости SSD. С точки зрения интерфейса, PCIe 5.0 является более предпочтительным, когда речь идёт об удовлетворении потребностей высокопроизводительных вычислений. Поскольку ИИ-серверы становятся более сложными, спрос на серверную память DRAM, SSD и HBM продолжит расти.

Мировое производство чипов памяти переживает огромнейший спад спроса. Во втором полугодии 2022 года были зафиксированы самые значительные квартальные падения цен за всё время с момента начала наблюдений, пишет агентство Bloomberg.

Источник изображения: Pixabay

По данным TrendForce, средняя цена на оперативную память DRAM упала в третьем квартале прошлого года на 31,4 % по сравнению с тем же периодом 2021 года, а в четвёртом квартале падение усилилось, составив 34,4 %. Ситуация с чипами флеш-памяти NAND ненамного лучше, сообщили аналитики, отметив, что за эти кварталы были зарегистрированы самые значительные снижения цен в отрасли с 2006 года.

Из-сложившейся ситуации большинство ведущих вендоров сократили объёмы производства и приостановили строительство новых мощностей. Компании Micron Technology, SK hynix и Kioxia объявили о мерах по стабилизации рынка с помощью сдерживания избыточного предложения. Исключение составляет лишь Samsung Electronics, которая планирует направить в этом году более $30 млрд на наращивание производственных мощностей.

Samsung делает ставку на долгосрочный рост потребления микросхем памяти, обусловленный растущим развёртыванием ресурсоёмких облачных сервисов, увеличением производства подключённых автомобилей и внедрением систем искусственного интеллекта. В своём последнем квартальном отчёте компания прогнозирует дальнейшее сокращение рынка смартфонов, вместе с тем ожидая, что ИИ-решения, такие как чат-бот ChatGPT, станут драйвером роста спроса на её продукцию.

Ранее в этом месяце ресурс BusinessKorea сообщил о том, что у Samsung Electronics и SK hynix отмечен значительный рост заказов в этом году на память с высокой пропускной способностью (HBM), которая в сочетании с мощными процессорами и графическими ускорителями позволяет значительно повысить производительность серверов при обучении и вычислениях ИИ.

Южнокорейские источники сообщают, что с начала года объём заказов на память HBM резко возрос как у SK hynix, так и у Samsung. Это взвинтило цены на чипы HBM — их закупочная стоимость сегодня в пять раз больше, чем самой передовой традиционной оперативной памяти. Рост спроса вызван взрывной популярностью чат-ботов с ИИ, которые как ничто другое требовательны к пропускной способности памяти. И это скоро изменит весь рынок компьютерной памяти, уверены эксперты.

Компоновка памяти HBM

Неназванный представитель отрасли заявил источнику, что разработка новых техпроцессов больше не в приоритете у производителей чипов памяти. Компании будут соревноваться в выпуске наиболее быстрых чипов памяти, включая решения с обработкой процессов непосредственно в памяти. К последним относится память HBM-PIM, представленная компанией Samsung в феврале 2021 года и компанией SK hynix в феврале 2022 года.

Разработка платформ искусственного интеллекта для многих компаний становится приоритетной, и модули памяти типа HBM и HBM-PIM получают колоссальный толчок, что действительно способно изменить правила игры на рынке памяти. Разработчиков платформ не останавливает то, что память HBM как минимум в три раза дороже обычной памяти. Рост спроса и явная неспособность удовлетворить его в полном объёме уже привели к росту цен на этот тип памяти, что не смягчает динамику, а только её подогревает. Искусственный интеллект и расширение связанных с ним услуг очевидным образом ломает ситуацию.

К компании SK hynix, как к лидирующему производителю чипов HBM3 в очередь выстроились NVIDIA, Intel и AMD. «Цена HBM3 выросла в пять раз по сравнению с самой высокопроизводительной DRAM», — поделился знаниями один из инсайдеров.

Компания SK hynix начала выпускать память типа HBM самой первой, представив её ещё в 2013 году, а дебютировала она в видеокартах AMD Radeon R9 Fury на GPU Fiji в 2015 году. С тех пор этот южнокорейский чипмейкер выпустил HBM второго поколения (HBM2), третьего (HBM2E) и четвёртого (HBM3), обеспечив себе от 60 % до 70 % этого рынка.

Высочайшую производительность памяти HBM обеспечивает стековая компоновка кристаллов, пронизанных сверху донизу сквозными контактами и фактически прямая связь с центральным или графическим процессором. Ни одна другая память не может работать с похожей пропускной способностью, а это самое узкое место в интенсивных вычислениях. Память HBM решает эту проблему намного лучше других типов памяти и это определило её будущее на ближайшие годы бурного развития ИИ.