Память типа HBM в своём актуальном поколении (HBM3) весьма востребована рынком, поскольку используется при изготовлении популярных ускорителей вычислений NVIDIA для систем искусственного интеллекта, а южнокорейская SK hynix как раз является главным партнёром NVIDIA в этой сфере. Для ряда технологических операций по выпуску HBM компании SK hynix придётся переквалифицировать часть собственных сотрудников.

Источник изображения: SK hynix

Информация о соответствующей потребности появилась на уходящей неделе на страницах корейского ресурса Business Korea. Подразделение WLP компании SK hynix, которое специализируется на тестировании и упаковке микросхем памяти, недавно решило усилить штат специалистов по технологиям тестирования и упаковки за счёт сотрудников других подразделений компании, предложив кандидатам на релокацию программу профессиональной переподготовки. Речь, как подчёркивается, идёт не о рабочих, а об инженерных специалистах, поэтому их количество измеряется лишь десятками человек.

По замыслу SK hynix, подобный кадровый манёвр позволит укрепить компетенции компании в сфере разработки новых передовых методов упаковки, позволив сохранить темпы технического прогресса в сфере разработки новых видов продукции в этом сегменте рынка. Буквально недавно компания заявила об удачной разработке самой быстрой памяти типа HBM3e в мире. Возможность оставаться лидером будет определяться наличием адекватного кадрового потенциала, поэтому искать таланты компания не стесняется и внутри своего штата.

Специалисты TrendForce поделились собственными представлениями о тенденциях развития рынка памяти типа HBM как в этом, так и в следующем году. В этом году будет наблюдаться дефицит микросхем памяти данного типа, но в следующем объёмы поставок смогут вырасти на 105 % за счёт расширения производственных мощностей. При этом два южнокорейских производителя смогут увеличить свою долю рынка в ущерб Micron Technology.

Источник изображения: SK hynix

Сейчас производители памяти типа HBM наращивают объёмы выпуска соответствующих микросхем, но линии по их упаковке в вертикальные стеки требуют от 9 до 12 месяцев на монтаж и настройку, поэтому существенного увеличения объёмов поставок готовой продукции в этой сфере не приходится ожидать ранее второго квартала следующего года.

Формально, на рынке присутствуют до трёх поколений памяти одновременно: HBM/HBM2, HBM2e и HBM3. Последняя считается четвёртым поколением, и на подходе уже пятое поколение микросхем, именуемое HBM3e. Шестым же станет HBM4, над разработкой которой уже трудятся корейские компании. Если в 2022 году на долю HBM3 приходились всего 8 % мирового рынка, а HBM2e занимала внушительные 70 %, то в текущем году спрос на HBM3 со стороны производителей ускорителей вычислений позволит поднять долю этого поколения памяти до 39 %. При этом доля HBM2e снизится до 50 %. Ну, а в следующем году доля HBM3 вырастет до 60 %, а HBM2e будет занимать не более 25 % рынка. В совокупности с ростом цен это приведёт к существенному увеличению выручки производителей данных типов памяти.

По итогам 2022 года компания SK hynix контролировала 50 % рынка HBM3, причём отчасти она могла благодарить за это компанию NVIDIA, которую снабжает данной памятью. Samsung Electronics довольствовалась 40 % рынка, а Micron — умеренными 10 %. Тем не менее, если в этом году SK hynix и Samsung будут стремиться к паритету на уровне 46–49 % рынка, то Micron придётся ужаться до 4–6 %. В следующем году доля последней может сократиться до 3–5 %, как считают аналитики TrendForce. Впрочем, эта американская компания сосредоточена на разработке памяти типа HBM3e, а потому может отыграться в будущем. Такую память, в частности, будут использовать представленные недавно NVIDIA ускорители вычислений GH200, поставки которых начнутся во втором квартале.

Как считают эксперты, цены на микросхемы HBM2 и HBM2e могут снизиться по итогам текущего года, поскольку они в меньшей степени востребованы рынком, чем HBM3. Высокий спрос на последний тип памяти в сочетании с высокими ценами будет способствовать росту выручки производителей HBM на 127 % до $8,9 млрд по итогам следующего года. В натуральном выражении объёмы поставок памяти вырастут на 105 %.

Сегодня Micron представила свои первые чипы памяти с высокой пропускной способностью HBM3, ориентированные на высокопроизводительные системы. Micron стала последним из крупных производителей памяти, освоивших производство HBM3. Стремясь наверстать упущенное, Micron сразу начнёт выпуск ускоренной версии памяти HBM3 Gen2. Массовое производство новых стеков памяти, предназначенных в первую очередь для центров обработки данных, стартует в начале 2024 года.

Источник изображений: Micron

Стеки Micron HBM3 Gen2 ёмкостью 24 Гбайт созданы путём штабелирования восьми кристаллов памяти (8-Hi) ёмкостью 24 Гбит, изготовленных с использованием техпроцесса 1β. Для сравнения, SK hynix набирает свои 24-гигабайтные стеки из 16-гигабитных кристаллов в конфигурации 12-Hi. Таким образом, Micron может стать первым поставщиком, предлагающим чипы HBM3 ёмкостью 24 Гбайт в более типичной конфигурации 8-Hi. А в следующем году компания планирует представить 36-гигабайтные стеки HBM3 Gen2 с ещё большей ёмкостью.

Теоретическая скорость передачи данных HBM3 Gen2 может достигать 9,2 ГТ/с (гигатрансфер в секунду), что на 44 % превышает базовую спецификацию HBM3, и на 15 % превосходит 8 ГТ/с — скорость конкурирующей памяти SK hynix HBM3E. Пиковая пропускная способность каждого стека HBM3 Gen2 составляет 1,2 Тбайт/с.

Micron заявляет, что использование её 24-гигабайтных стеков HBM3 Gen2 обеспечит пропускную способность 4,8 Тбайт/с в 4096-битных подсистемах памяти (четыре стека) и 7,2 Тбайт/с в 6096-битных (шесть стеков). Для сравнения: пиковая пропускная способность памяти у ускорителя NVIDIA H100 SXM составляет 3,35 Тбайт/с.

Micron в своих новых стеках памяти увеличила количество сквозных соединений Through Silicon Via (TSV) в два раза по сравнению с продуктами HBM3 других поставщиков и сократила расстояние между кристаллами DRAM. Эти два изменения в упаковке уменьшили тепловое сопротивление чипов памяти и облегчили их охлаждение.

Кроме того, увеличение количества TSV сулит и другие преимущества — рост пропускной способности, снижение задержек, повышение энергоэффективности и масштабируемости благодаря распараллеливанию передачи. Это также повышает надёжность, смягчая последствия сбоев за счёт перенаправления данных. Однако эти преимущества сопряжены с повышенной сложностью производства и потенциально более высоким уровнем брака.

Как и другая память HBM3, стеки HBM3 Gen2 от Micron поддерживают коррекцию ошибок ECC Reed-Solomon, мягкое восстановление ячеек памяти, жёсткое восстановление ячеек памяти, а также автоматическую проверку ошибок и поддержку очистки. Помимо высоких частот, стеки Micron HBM3 Gen2 полностью совместимы с современным оборудованием, использующим HBM3.

Micron планирует начать массовое производство своих 24-гигабайтных стеков HBM3 в первом квартале 2024 года, а серийный выпуск 36-гигабайтных стеков HBM3 должен стартовать во второй половине 2024 года.

На сегодняшний день JEDEC ещё не утвердил спецификации для HBM3 со скоростью выше 6,4 ГТ/с, поэтому память Micron HBM3 Gen2, как и конкурирующая память SK hynix HBM3E на данный момент превышают требования стандарта. Но эксперты не сомневаются, что он будет скорректирован, расходясь в предположениях о новом наименовании.

Micron также сообщила, что уже работает над памятью HBMNext. Это новое поколение памяти должно обеспечить полосу пропускания от 1,5 Тбайт/с до более чем 2 Тбайт/с на стек при ёмкости от 36 до 64 Гбайт.

По мнению многих аналитиков, индустрия памяти может быстрее выйти из текущего кризиса перепроизводства за счёт активно растущего спроса на микросхемы типа HBM со стороны производителей компонентов для систем искусственного интеллекта. Сейчас память данного типа определяет не более 5 % всей выручки в отрасли, но уже к 2026 году эта доля может вырасти до 20 %.

Источник изображения: SK hynix

Такими прогнозами делятся с The Wall Street Journal аналитики SemiAnalysis. По их данным, микросхемы типа HBM в среднем в пять раз дороже стандартных DRAM, поэтому в показателях выручки они достаточно быстро смогут нарастить свой удельный вес, даже если динамика натуральных показателей будет изменяться умеренными темпами.

По данным TrendForce, в прошлом году примерно половину рынка памяти типа HBM контролировала южнокорейская компания SK hynix, она являлась основным поставщиком соответствующих микросхем для нужд NVIDIA, которая лидирует в сегменте ускорителей вычислений для систем искусственного интеллекта. На долю Samsung Electronics приходилось 40 % сегмента, а поздно вступившая на рынок Micron Technology довольствовалась 10 %. На апрельской отчётной конференции руководство SK hynix заявило, что в 2023 году выручка компании от реализации микросхем HBM вырастет более чем на 50 % по сравнению с прошлым годом. Samsung тоже рассчитывает заработать на буме ИИ с точки зрения поставок микросхем памяти.

Аналитики Citi добавили, что доля используемой в системах ИИ оперативной памяти к 2025 году вырастет с текущих 16 до 41 %, поэтому данный сегмент рынка начнёт существенно влиять на выручку поставщиков памяти. Впрочем, в краткосрочной перспективе данный фактор не способен исправить ситуацию с перепроизводством микросхем памяти, поэтому многие производители сталкиваются с существенными убытками и сокращают объёмы выпуска продукции до рекордно низких величин.