Южнокорейская компания SK hynix с момента выпуска памяти HBM первого поколения оставалась основным поставщиком соответствующих микросхем для нужд AMD и Nvidia, а уже после сегодняшнего анонса ускорителей Nvidia B200 решила не скрывать своих намерений начать массовые поставки микросхем HBM3E, которые уже относятся к пятому поколению. В конце этого месяца крупный клиент SK hynix начнёт получать от компании микросхемы HBM3E.

Источник изображения: SK hynix

Легко догадаться, что этим клиентом будет Nvidia, хотя прямых ссылок на этого партнёра в тексте пресс-релиза SK hynix нет. Зато корейский производитель упоминает о той самой технологии MR-MUF (массовой оплавки изоляционного слоя с частичным заполнением формы), которая позволяет на 10 % улучшить условия теплоотвода от микросхем HBM3E и повысить уровень выхода годной продукции по сравнению с альтернативной технологией NCF, подразумевающей использование изолирующей плёнки для разделения кристаллов памяти в стеке. Напомним, что Samsung интересуется внедрением первой из этих технологий при производстве памяти HBM3E своими силами, поскольку рассчитывает за счёт этого не только увеличить объёмы выпуска продукции, но и завоевать благосклонность Nvidia на этапе сертификации своей памяти.

Память HBM3E, которую начала массово выпускать компания SK hynix, способна передавать информацию со скоростью 1,18 Тбайт в секунду. По данным SK hynix, эта компания первой в мире освоила серийное производство микросхем памяти типа HBM3E. Память четвёртого поколения (HBM3) она тоже начала выпускать первой. Предметом особой гордости SK hynix является тот факт, что разработку HBM3E она анонсировала только семь месяцев назад, и в сжатые сроки смогла наладить массовое производство одноимённых микросхем.

Доминирующее положение SK hynix на рынке памяти HBM не даёт покоя Samsung Electronics, которая в целом является крупнейшим производителем микросхем памяти. По некоторым данным, Samsung готова последовать примеру конкурента, переняв у него одну из технологий, применяемых при упаковке микросхем HBM3 и HBM3E, чтобы добиться благосклонности Nvidia и увеличить объёмы поставок своей продукции для нужд этого клиента.

Источник изображения: SK hynix

Как сообщает Reuters, в текущем году SK hynix будет контролировать более 80 % поставок памяти класса HBM3 и HBM3E для нужд Nvidia, и это с учётом способности Micron наладить поставки своих микросхем HBM3E для ускорителей Nvidia H200 заставляет Samsung Electronics сильно нервничать. Как и SK hynix, компания Samsung уже способна создавать 12-слойные стеки HBM3E, но первая с 2021 года применяет технологию массовой оплавки с частичным заполнением формы (MUF) для создания изолирующих слоёв между кристаллами памяти в стеке, тогда как Samsung до сих пор полагалась на использование термокомпрессионной непроводящей плёнки (NCF), обеспечивающей худшие условия теплоотвода.

Кроме того, на конвейере SK hynix уровень выхода годных чипов HBM3 колеблется в пределах 60–70 %, как считают некоторые эксперты, а у Samsung он едва достигает 10–20 %, поэтому последняя заинтересована в улучшении технологии производства микросхем памяти этого типа. Для этого она собирается перейти на использование метода MUF для изоляции кристаллов памяти в стеке, пусть и постепенно. Компания закупает необходимое оборудование и расходные материалы, но к массовому выпуску памяти по технологии MUF будет готова только к следующему году. Предполагается, что сейчас и на протяжении некоторого времени в дальнейшем Samsung будет комбинировать на своих предприятиях технологии NCF и MUF. По крайней мере, официально Samsung считает технологию NCF оптимальным решением для выпуска чипов памяти HBM3E.

Как отмечают аналитики TrendForce, память типа HBM3 для нужд Nvidia компания Samsung поставляет с конца прошлого года, но в текущем квартале ей удалось стать поставщиком данных микросхем для ускорителей AMD Instinct MI300, поэтому дальнейшая экспансия бизнеса Samsung в этой сфере не будет зависеть исключительно от Nvidia. В текущем году также ожидается планомерное увеличение рыночной доли памяти типа HBM3E, в этом случае Samsung свою продукцию такого типа сертифицирует к концу текущего квартала, почти догнав основных конкурентов в лице SK hynix и Micron. Последняя свои микросхемы HBM3E начнёт поставлять Nvidia как раз в конце этого квартала, лишь слегка опередив Samsung. Корейский гигант сможет значительно укрепить свои позиции в сегменте HBM3E к концу этого года, как считают представители TrendForce.

Желая сохранить лидирующие позиции на рынке памяти типа HBM, которая стала крайне востребована на волне ИИ-бума, южнокорейская компания SK hynix в этом году вложит в расширение мощностей по её тестированию и упаковке в родной стране более $1 млрд. По оценкам сторонних экспертов, общая величина капитальных затрат SK hynix в этом году достигнет $10,5 млрд.

Источник изображения: SK hynix

Поскольку на упаковку памяти будет направлена одна десятая часть этого бюджета, то данное направление деятельности можно признать приоритетным, как поясняет Bloomberg. Руководит данным бизнесом Ли Кан-ук (Lee Kang-Wook), который ранее занимался подобной работой в Samsung Electronics. Комбинация различных полупроводниковых материалов и разработка новых методов соединений являются сферами специализации этого бывшего инженера Samsung. По его мнению, первые 50 лет развития полупроводниковой отрасли были посвящены начальным этапам создания компонентов, связанных с обработкой кремния, а последующие 50 лет будут посвящены технологиям упаковки чипов.

Непосредственно Ли Кан-ук принимал участие в разработки методов упаковки чипов памяти типа HBM2E, именно эти ноу-хау позволили SK hynix стать главным поставщиком подобной памяти для нужд NVIDIA с конца 2019 года. Будучи инженером Samsung, он с 2002 года руководил разработкой межслойных соединений в многоярусных полупроводниковых компонентах. Эта технология в дальнейшем легла в основу создания микросхем памяти HBM, которые в последнем поколении насчитывают по 12 ярусов, соединяемых между собой вертикально. Когда в 2013 году SK hynix и AMD первыми начали применять HBM в серийных продуктах, никто из конкурентов не мог последовать их примеру на протяжении двух лет, пока к концу 2015 года Samsung не представила HBM2. Ли Кан-ук перешёл на работу в SK hynix тремя годами позднее.

Сейчас SK hynix сотрудничает с японскими компаниями в разработке более совершенной технологии формирования вертикальных межсоединений в микросхемах памяти HBM. В конце февраля Samsung объявила о завершении разработки микросхем HBM3E с 12 слоями, которые могут обеспечить объём памяти до 36 Гбайт в одном стеке. Micron Technology в то же время объявила о начале выпуска 8-слойной памяти HBM3E, которая может предложить объём до 24 Гбайт в одном стеке. Считается, что NVIDIA будет получать такие микросхемы от обоих конкурентов SK hynix. Помимо развития предприятий по упаковке HBM на территории Южной Кореи, SK hynix готовится вложить несколько миллиардов долларов в реализации профильного проекта на территории США.

Сегмент памяти типа HBM сейчас развивается очень динамично, поскольку именно ею оснащаются востребованные рынком ускорители вычислений для систем искусственного интеллекта. Компания Samsung Electronics заявила о разработке первого в мире 12-ярусного стека HBM3E совокупной ёмкостью 36 Гбайт, который обеспечивает передачу информации со скоростью 1280 Гбайт/с.

Источник изображения: Samsung Electronics

Как поясняется в лаконичном пресс-релизе производителя, по критерию ёмкости и скорости передачи информации 12-слойный стек HBM3E более чем на 50 % превосходит имеющиеся на рынке 8-слойные стеки HBM3. Особенностью технологии производства новой памяти является использование термокомпрессии в сочетании с диэлектрической плёнкой при формировании 12-слойных стеков и межслойных соединений. Результирующий 12-слойный стек HBM3E в итоге имеет такую же монтажную высоту, как и 8-слойный. Расстояние между кристаллами памяти в стеке не превышает 7 мкм, что является отраслевым рекордом. Плотность компоновки микросхем в стеке удалось увеличить более чем на 20 %.

Технология Samsung также подразумевает использование контактных шариков разной величины между слоями памяти. Малые шарики используются для передачи сигнала, а более крупные способствуют улучшению теплоотвода. Такая методика производства попутно повышает уровень выхода годной продукции, как утверждает Samsung. По оценкам компании, 12-слойная память типа HBM3E позволяет поднять скорость обучения систем искусственного интеллекта на 34 %, а количество одновременно обращающихся к ним пользователей может вырасти более чем в 11,5 раз по сравнению с 8-слойным стеком HBM3. Поставки памяти HBM3E в 12-ярусном исполнении в виде инженерных образцов для нужд клиентов Samsung уже начались, а массовое производство стартует в первой половине текущего года.

Компания Micron сообщила о старте массового производства высокопроизводительной памяти HBM3E в формате 8-этажных стеков объёмом 24 Гбайт. Такие микросхемы будут использоваться в составе специализированных ИИ-ускорителей NVIDIA H200, массовые поставки которых начнутся во втором календарном квартале 2024 года.

Источник изображения: Microsoft

В Micron заявляют, что растущий спрос на ИИ-вычисления требует новых высокопроизводительных решений в вопросе памяти. Новые микросхемы HBM3E от Micron полностью отвечают этим требованиям.

Для своих 8-слойных стеков памяти HBM3E объёмом 24 Гбайт компания Micron заявляет скорость передачи данных в 9,2 Гбит/с на контакт и пропускную способность более 1,2 Тбайт/с. По словам Micron, её чипы памяти HBM3E до 30 % энергоэффективнее аналогичных решений от других производителей.

Компания также отмечает, что большая ёмкость в 24 Гбайт чипов памяти HBM3E позволяет центрам обработки данных беспрепятственно масштабировать свои задачи, связанные с ИИ, будь то обучение массивных нейронных сетей или ускорение инференса.

Компания Micron производит чипы памяти HBM3E с использованием своего самого передового технологического процесса 1β (1-beta), а также передовой технологии сквозных соединений TSV (Through-silicon via) и других инновационных решений, связанных с упаковкой микросхем. Micron будет производить свои чипы памяти HBM3E на мощностях компании TSMC.

Производитель также сообщил, что в марте этого года начнёт рассылать производителям образы передовых 12-слойных чипов памяти HBM3E ёмкостью 36 Гбайт, которые обеспечат пропускную способность выше 1,2 Тбайт/с.