Память типа HBM в своём актуальном поколении (HBM3) весьма востребована рынком, поскольку используется при изготовлении популярных ускорителей вычислений NVIDIA для систем искусственного интеллекта, а южнокорейская SK hynix как раз является главным партнёром NVIDIA в этой сфере. Для ряда технологических операций по выпуску HBM компании SK hynix придётся переквалифицировать часть собственных сотрудников.

Источник изображения: SK hynix

Информация о соответствующей потребности появилась на уходящей неделе на страницах корейского ресурса Business Korea. Подразделение WLP компании SK hynix, которое специализируется на тестировании и упаковке микросхем памяти, недавно решило усилить штат специалистов по технологиям тестирования и упаковки за счёт сотрудников других подразделений компании, предложив кандидатам на релокацию программу профессиональной переподготовки. Речь, как подчёркивается, идёт не о рабочих, а об инженерных специалистах, поэтому их количество измеряется лишь десятками человек.

По замыслу SK hynix, подобный кадровый манёвр позволит укрепить компетенции компании в сфере разработки новых передовых методов упаковки, позволив сохранить темпы технического прогресса в сфере разработки новых видов продукции в этом сегменте рынка. Буквально недавно компания заявила об удачной разработке самой быстрой памяти типа HBM3e в мире. Возможность оставаться лидером будет определяться наличием адекватного кадрового потенциала, поэтому искать таланты компания не стесняется и внутри своего штата.

Специалисты TrendForce поделились собственными представлениями о тенденциях развития рынка памяти типа HBM как в этом, так и в следующем году. В этом году будет наблюдаться дефицит микросхем памяти данного типа, но в следующем объёмы поставок смогут вырасти на 105 % за счёт расширения производственных мощностей. При этом два южнокорейских производителя смогут увеличить свою долю рынка в ущерб Micron Technology.

Источник изображения: SK hynix

Сейчас производители памяти типа HBM наращивают объёмы выпуска соответствующих микросхем, но линии по их упаковке в вертикальные стеки требуют от 9 до 12 месяцев на монтаж и настройку, поэтому существенного увеличения объёмов поставок готовой продукции в этой сфере не приходится ожидать ранее второго квартала следующего года.

Формально, на рынке присутствуют до трёх поколений памяти одновременно: HBM/HBM2, HBM2e и HBM3. Последняя считается четвёртым поколением, и на подходе уже пятое поколение микросхем, именуемое HBM3e. Шестым же станет HBM4, над разработкой которой уже трудятся корейские компании. Если в 2022 году на долю HBM3 приходились всего 8 % мирового рынка, а HBM2e занимала внушительные 70 %, то в текущем году спрос на HBM3 со стороны производителей ускорителей вычислений позволит поднять долю этого поколения памяти до 39 %. При этом доля HBM2e снизится до 50 %. Ну, а в следующем году доля HBM3 вырастет до 60 %, а HBM2e будет занимать не более 25 % рынка. В совокупности с ростом цен это приведёт к существенному увеличению выручки производителей данных типов памяти.

По итогам 2022 года компания SK hynix контролировала 50 % рынка HBM3, причём отчасти она могла благодарить за это компанию NVIDIA, которую снабжает данной памятью. Samsung Electronics довольствовалась 40 % рынка, а Micron — умеренными 10 %. Тем не менее, если в этом году SK hynix и Samsung будут стремиться к паритету на уровне 46–49 % рынка, то Micron придётся ужаться до 4–6 %. В следующем году доля последней может сократиться до 3–5 %, как считают аналитики TrendForce. Впрочем, эта американская компания сосредоточена на разработке памяти типа HBM3e, а потому может отыграться в будущем. Такую память, в частности, будут использовать представленные недавно NVIDIA ускорители вычислений GH200, поставки которых начнутся во втором квартале.

Как считают эксперты, цены на микросхемы HBM2 и HBM2e могут снизиться по итогам текущего года, поскольку они в меньшей степени востребованы рынком, чем HBM3. Высокий спрос на последний тип памяти в сочетании с высокими ценами будет способствовать росту выручки производителей HBM на 127 % до $8,9 млрд по итогам следующего года. В натуральном выражении объёмы поставок памяти вырастут на 105 %.

Сегодня Micron представила свои первые чипы памяти с высокой пропускной способностью HBM3, ориентированные на высокопроизводительные системы. Micron стала последним из крупных производителей памяти, освоивших производство HBM3. Стремясь наверстать упущенное, Micron сразу начнёт выпуск ускоренной версии памяти HBM3 Gen2. Массовое производство новых стеков памяти, предназначенных в первую очередь для центров обработки данных, стартует в начале 2024 года.

Источник изображений: Micron

Стеки Micron HBM3 Gen2 ёмкостью 24 Гбайт созданы путём штабелирования восьми кристаллов памяти (8-Hi) ёмкостью 24 Гбит, изготовленных с использованием техпроцесса 1β. Для сравнения, SK hynix набирает свои 24-гигабайтные стеки из 16-гигабитных кристаллов в конфигурации 12-Hi. Таким образом, Micron может стать первым поставщиком, предлагающим чипы HBM3 ёмкостью 24 Гбайт в более типичной конфигурации 8-Hi. А в следующем году компания планирует представить 36-гигабайтные стеки HBM3 Gen2 с ещё большей ёмкостью.

Теоретическая скорость передачи данных HBM3 Gen2 может достигать 9,2 ГТ/с (гигатрансфер в секунду), что на 44 % превышает базовую спецификацию HBM3, и на 15 % превосходит 8 ГТ/с — скорость конкурирующей памяти SK hynix HBM3E. Пиковая пропускная способность каждого стека HBM3 Gen2 составляет 1,2 Тбайт/с.

Micron заявляет, что использование её 24-гигабайтных стеков HBM3 Gen2 обеспечит пропускную способность 4,8 Тбайт/с в 4096-битных подсистемах памяти (четыре стека) и 7,2 Тбайт/с в 6096-битных (шесть стеков). Для сравнения: пиковая пропускная способность памяти у ускорителя NVIDIA H100 SXM составляет 3,35 Тбайт/с.

Micron в своих новых стеках памяти увеличила количество сквозных соединений Through Silicon Via (TSV) в два раза по сравнению с продуктами HBM3 других поставщиков и сократила расстояние между кристаллами DRAM. Эти два изменения в упаковке уменьшили тепловое сопротивление чипов памяти и облегчили их охлаждение.

Кроме того, увеличение количества TSV сулит и другие преимущества — рост пропускной способности, снижение задержек, повышение энергоэффективности и масштабируемости благодаря распараллеливанию передачи. Это также повышает надёжность, смягчая последствия сбоев за счёт перенаправления данных. Однако эти преимущества сопряжены с повышенной сложностью производства и потенциально более высоким уровнем брака.

Как и другая память HBM3, стеки HBM3 Gen2 от Micron поддерживают коррекцию ошибок ECC Reed-Solomon, мягкое восстановление ячеек памяти, жёсткое восстановление ячеек памяти, а также автоматическую проверку ошибок и поддержку очистки. Помимо высоких частот, стеки Micron HBM3 Gen2 полностью совместимы с современным оборудованием, использующим HBM3.

Micron планирует начать массовое производство своих 24-гигабайтных стеков HBM3 в первом квартале 2024 года, а серийный выпуск 36-гигабайтных стеков HBM3 должен стартовать во второй половине 2024 года.

На сегодняшний день JEDEC ещё не утвердил спецификации для HBM3 со скоростью выше 6,4 ГТ/с, поэтому память Micron HBM3 Gen2, как и конкурирующая память SK hynix HBM3E на данный момент превышают требования стандарта. Но эксперты не сомневаются, что он будет скорректирован, расходясь в предположениях о новом наименовании.

Micron также сообщила, что уже работает над памятью HBMNext. Это новое поколение памяти должно обеспечить полосу пропускания от 1,5 Тбайт/с до более чем 2 Тбайт/с на стек при ёмкости от 36 до 64 Гбайт.