По данным TrendForce, уже сейчас покупатели HBM ведут с поставщиками переговоры о ценах и объёмах поставок памяти данного типа на 2025 год, и в это легко поверить, оглядываясь на заявление SK hynix о распределении основной части производственных квот на следующий год. По прогнозам аналитиков, в этом году спрос на HBM вырастет на 200 %, а в следующем удвоится от этого уровня.

Источник изображения: SK hynix

В прошлом году на долю HBM приходилось 2 % мирового объёма производства DRAM в натуральном выражении, а в стоимостном доля достигала 8 %, поскольку одна микросхема HBM в среднем в пять раз дороже DDR5. В текущем году в программе выпуска DRAM память типа HBM может занять 5 % в натуральном измерении, а в стоимостном её доля может перевалить за 20 %, как считают эксперты TrendForce. Наконец, в следующем году HBM будет формировать более 10 % объёмов производства DRAM в натуральном измерении, а в стоимостном выражении её доля превысит 30 %.

В этом квартале, как сообщает источник, поставщики предварительно увеличили стоимость микросхем памяти HBM2E, HBM3 и HBM3E на 5–10 % для контрактов со сроком поставки в 2025 году. Как уже отмечали недавно SK hynix, Samsung Electronics и Micron Technology, все три компании готовы начать поставки микросхем HBM3E в текущем полугодии, просто в случае с Micron это будут только восьмиярусные стеки, а два других производителя готовы предложить 12-ярусные. Пока уровень выхода годной продукции при выпуске микросхем HBM3E не превышает 40–60 %, но с течением времени увеличатся объёмы производства, вырастет качество, а цены снизятся. Пока память типа HBM3E используется преимущественно в ускорителях вычислений Nvidia, но с четвёртого квартала этого года к ним присоединятся и ускорители AMD, причём сразу потребляя 12-ярусные стеки.

Южнокорейская SK hynix пока остаётся главным поставщиком микросхем памяти типа HBM для нужд Nvidia, но ей пытаются составить конкуренцию и Samsung Electronics, и Micron Technology. Корейские СМИ сообщают, что Nvidia стимулирует обострение конкуренции между поставщиками HBM, стремясь получить более выгодные для себя цены на их продукцию.

Источник изображения: SK hynix

Напомним, недавно из уст представителей SK hynix прозвучали обещания начать поставки образцов 12-ярусных стеков HBM3E своим клиентам, а в третьем квартале приступить к их массовому производству. Подобная активность в информационном поле, как считают представители Business Korea, связана с действиями компании Nvidia, которая не особо скрывает намерения конкурирующих поставщиков HBM от друг друга, пытаясь обострить соперничество и тем самым добиться более выгодных для себя условий закупки.

Недавний визит председателя совета директоров SK Inc. Чэй Тэ Вона (Chey Tae-won) в США, который в конце апреля встретился с главой и основателем Nvidia Дженсеном Хуангом (Jensen Huang), как принято считать, был связан как раз с этой темой. Конкурирующая Samsung Electronics начать поставки 12-ярусной HBM3E пообещала до конца текущего полугодия, поэтому SK hynix позже пришлось раскрыть свои аналогичные намерения. Не осталась в стороне даже Micron, которая пока способна выпускать только 8-ярусные стеки HBM3E, но от соответствующих заявлений не воздерживается. По словам корейских источников, все эти действия поставщиков HBM могут быть вызваны активностью Nvidia, которая сильнее давит на них как в графике начала поставок новейшей памяти, так и в вопросах цены.

В конце февраля южнокорейская компания SK hynix уже заявляла, что фактически обеспечена заказами на выпуск памяти типа HBM до конца текущего года. Сезон квартальных отчётов заставил компанию поднять ставки, заявив о наличии заказов вплоть до конца 2025 года, попутно пообещав начать поставки новейшей HBM3E в третьем квартале текущего года.

Источник изображения: SK hynix

К массовому производству микросхем HBM3E компания приступит в следующем квартале, как отмечается в свежем заявлении SK hynix. Производитель по-прежнему считает, что объёмы выпуска HBM будут увеличиваться в среднем на 60 % в ближайшие годы. По традиции, собственные инвестиции SK hynix в расширение производства памяти распланированы вплоть до 2046 года, и к этому сроку компания собирается вложить $91 млрд в развитие крупнейшего комплекса по производству памяти в Йонъине. На первом этапе на строительство нового предприятия, которое войдёт в состав нового комплекса, планируется потратить около $14,5 млрд. Ещё $3,87 млрд будет вложено в строительство предприятия по тестированию и упаковке памяти в штате Индиана. Как пояснили на этой неделе представители SK hynix, финансировать эти проекты компания рассчитывает преимущественно за счёт собственных средств, поскольку рассчитывает на пропорциональный рост прибыли.

Ситуация с расширением производства HBM руководству SK hynix нравится тем, что заказы клиентов растут предсказуемо, и это позволяет более чётко планировать строительство новых предприятий. По крайней мере, у компании появляется больше уверенности, что новые линии по выпуску HBM окажутся загружены работой, тогда как традиционный рынок DRAM в целом более непредсказуем с точки зрения колебания спроса и предложения.

Поставки образцов новейшей 12-ярусной памяти типа HBM3E своим клиентам, главным из которых остаётся Nvidia, компания SK hynix начнёт в мае текущего года, а в третьем квартале приступит к её массовому производству. К 2028 году, как считают в SK hynix, доля микросхем памяти для систем искусственного интеллекта, включая HBM и DDR, в стоимостном выражении достигнет 61 % всех поставок продукции этой марки. В прошлом году этот показатель не превышал 5 %, так что нет ничего удивительного в том, что заказами на поставку HBM компания теперь обеспечена вплоть до конца следующего года.

Успех SK hynix в качестве главного поставщика памяти типа HBM был накануне подтверждён финансовой отчётностью компании, тогда как более крупный конкурент в лице Samsung Electronics в этом сегменте рынка остаётся на вторых ролях. Впрочем, это не помешало ему заключить контракт на поставку HBM3E с компанией AMD на сумму $3 млрд.

Источник изображения: Samsung Electronics

Об этой сделке сообщает TrendForce со ссылкой на южнокорейские СМИ. По их данным, во второй половине текущего года AMD рассчитывает выпустить ускорители вычислений Instinct MI350, и Samsung будет снабжать их своими 12-ярусными микросхемами памяти типа HBM3E. Сообщается, что сделка предполагает своего рода «бартер»: часть микросхем памяти будет обменяна на ускорители AMD. Выпускать непосредственно чипы ускорителей Instinct MI350 будет компания TSMC по 4-нм технологии. Кроме того, AMD ведёт переговоры с Samsung на тему контрактного производства своих чипов, но указанный контракт на поставку HBM3E никак к данной теме не относится.

Ещё в октябре 2023 года компания Samsung представила микросхемы HBM3E семейства Shinebolt, а в феврале текущего продемонстрировала их в 12-ярусном исполнении, позволяющем формировать в одном стеке до 36 Гбайт памяти этого типа. Массовое производство подобных чипов начнётся во второй половине 2024 года. Они в полтора раза увеличивают пропускную способность, до 1280 Гбайт/с. Высота 12-ярусных чипов за счёт использования более прогрессивной технологии упаковки остаётся на уровне 8-ярусных чипов прежнего поколения. Двенадцатиярусные стеки памяти поднимают быстродействие в задачах искусственного интеллекта на 34 % в среднем по сравнению с 8-ярусными.

Квартальный отчёт южнокорейской компании SK hynix был интересен тем, что она впервые за пять предыдущих кварталов получила чистую прибыль, а рост выручки превзошёл ожидания аналитиков и составил 144 %. Очевидно, что подобной динамике финансовых показателей компании способствовал высокий спрос на память типа HBM, хотя и в сегменте NAND наблюдались признаки восстановления.

Источник изображения: SK hynix

Выручка SK hynix достигла $9 млрд, что является максимальным значением со второго квартала 2022 года. Операционная прибыль достигла $2,1 млрд, существенно превзойдя ожидания аналитиков и продемонстрировав второй по величине результат за всю историю существования компании. Темпы роста выручки SK hynix в прошлом квартале оказались максимальными с 2010 года.

SK hynix намеревается увеличить капитальные затраты в этом году и нарастить объёмы поставок передовой памяти HBM3E, а также наладить поставки микросхем DDR5 высокой ёмкости для серверного применения. В более традиционных сегментах рынка памяти, по мнению представителей компании, спрос начнёт восстанавливаться во второй половине текущего года.

По прогнозам аналитиков Counterpoint Research, в этом году норма прибыли SK hynix превысит 20 %, а выручка компании достигнет $44,3 млрд. Как ранее отмечали представители SK hynix, в ближайшие годы спрос на память семейства HBM будет расти на 60 % ежегодно. В сотрудничестве с TSMC она рассчитывает начать поставки HBM4 в 2026 году. Помимо новых предприятий в Южной Корее, SK hynix собирается построить предприятие и исследовательский центр в штате Индиана. Компания сейчас ведёт переговоры с рядом клиентов о заключении долгосрочных контрактов на поставку памяти семейства HBM.

Что характерно, содержащий в целом позитивные сигналы квартальный отчёт SK hynix не предотвратил снижения курса акций компании на 3,9 %, поскольку на настроение инвесторов в большей степени повлиял негативный прогноз, прозвучавший из уст представителей Meta✴ Platforms. Акции прочих производителей чипов на азиатских фондовых рынках тоже устремились вниз после открытия торгов утром в четверг.

Ещё по итогам мартовской конференции GTC 2024, если верить публикации в социальной сети LinkedIn главы американского представительства Samsung Electronics, основатель Nvidia Дженсен Хуанг (Jensen Huang) одобрил использование микросхем памяти типа HBM3E этой корейской марки своими ускорителями вычислений. Теперь стало известно, что их поставки могут начаться до конца текущего полугодия.

Источник изображения: LinkedIn

Новости на эту тему в минувшую пятницу опубликовал южнокорейский ресурс Maeil Business Newspaper. Сейчас, как уточняет источник, микросхемы HBM3E компании Samsung в 8- и 12-ярусном исполнении проходят последние фазы тестирования, и серийные поставки для нужд Nvidia могут начаться уже до конца первого полугодия. Если учесть, что аналитики предрекали начало поставок либо в третьем квартале, либо даже в четвёртом, то подобный сценарий на этом фоне кажется более оптимистичным.

Способность Nvidia использовать 12-слойные стеки памяти типа HBM3E позволит компании увеличить объём памяти своих ускорителей вычислений, по этой причине продукция Samsung должна быть ею востребована. Кроме того, наличие в ассортименте продукции этого поставщика 8-слойных микросхем HBM3E позволит Nvidia претендовать на более привлекательные цены за счёт усиления конкуренции с SK hynix. В целом, во втором полугодии это может привести к снижению цен на микросхемы памяти HBM3E.

До сих пор перспективы сотрудничества Nvidia и Samsung в сфере использования памяти типа HBM3 или HBM3E в основном обсуждались на уровне слухов, но основатель первой из них, Дженсен Хуанг (Jensen Huang), на недавней пресс-конференции подчеркнул, что Nvidia готова сотрудничать как с SK hynix, так и с Samsung, и сейчас проводит сертификацию памяти последней.

Источник изображения: Samsung Electronics

По данным Nikkei Asian Review, Дженсен Хуанг пояснил, что HBM является очень сложным в производстве видом памяти, но её ценность высока. По его словам, Nvidia тратит много денег на закупку HBM. «Samsung является очень, очень хорошей компанией», — высказался основатель Nvidia. Микросхемы класса HBM этой марки, по его словам, Nvidia уже подвергает сертификации, и в будущем начнёт их использовать. До этого SK hynix была основным поставщиком современных типов памяти HBM для нужд Nvidia, как уже не раз отмечалось.

Назвав микросхемы HBM «технологическим чудом», глава Nvidia пояснил, что они позволяют улучшить энергоэффективность центров обработки данных, потребляя меньше электроэнергии в удельном выражении по сравнению с классической DRAM. Представители SK hynix подтвердили, что микросхемы HBM3E этой марки будут использоваться при оснащении ускорителей вычислений Nvidia семейства Blackwell. Производство HBM3E компания SK hynix уже освоила, и к поставкам профильных изделий приступит в ближайшее время.

«Есть невероятный потенциал модернизации для Samsung и SK hynix», — заявил глава Nvidia. Обе компании будут расти синхронно с бизнесом самой Nvidia, по его словам. Сотрудничеством с Samsung и SK hynix Дженсен Хуанг очень дорожит, как он признался на пресс-конференции.

Южнокорейская компания SK hynix с момента выпуска памяти HBM первого поколения оставалась основным поставщиком соответствующих микросхем для нужд AMD и Nvidia, а уже после сегодняшнего анонса ускорителей Nvidia B200 решила не скрывать своих намерений начать массовые поставки микросхем HBM3E, которые уже относятся к пятому поколению. В конце этого месяца крупный клиент SK hynix начнёт получать от компании микросхемы HBM3E.

Источник изображения: SK hynix

Легко догадаться, что этим клиентом будет Nvidia, хотя прямых ссылок на этого партнёра в тексте пресс-релиза SK hynix нет. Зато корейский производитель упоминает о той самой технологии MR-MUF (массовой оплавки изоляционного слоя с частичным заполнением формы), которая позволяет на 10 % улучшить условия теплоотвода от микросхем HBM3E и повысить уровень выхода годной продукции по сравнению с альтернативной технологией NCF, подразумевающей использование изолирующей плёнки для разделения кристаллов памяти в стеке. Напомним, что Samsung интересуется внедрением первой из этих технологий при производстве памяти HBM3E своими силами, поскольку рассчитывает за счёт этого не только увеличить объёмы выпуска продукции, но и завоевать благосклонность Nvidia на этапе сертификации своей памяти.

Память HBM3E, которую начала массово выпускать компания SK hynix, способна передавать информацию со скоростью 1,18 Тбайт в секунду. По данным SK hynix, эта компания первой в мире освоила серийное производство микросхем памяти типа HBM3E. Память четвёртого поколения (HBM3) она тоже начала выпускать первой. Предметом особой гордости SK hynix является тот факт, что разработку HBM3E она анонсировала только семь месяцев назад, и в сжатые сроки смогла наладить массовое производство одноимённых микросхем.

Доминирующее положение SK hynix на рынке памяти HBM не даёт покоя Samsung Electronics, которая в целом является крупнейшим производителем микросхем памяти. По некоторым данным, Samsung готова последовать примеру конкурента, переняв у него одну из технологий, применяемых при упаковке микросхем HBM3 и HBM3E, чтобы добиться благосклонности Nvidia и увеличить объёмы поставок своей продукции для нужд этого клиента.

Источник изображения: SK hynix

Как сообщает Reuters, в текущем году SK hynix будет контролировать более 80 % поставок памяти класса HBM3 и HBM3E для нужд Nvidia, и это с учётом способности Micron наладить поставки своих микросхем HBM3E для ускорителей Nvidia H200 заставляет Samsung Electronics сильно нервничать. Как и SK hynix, компания Samsung уже способна создавать 12-слойные стеки HBM3E, но первая с 2021 года применяет технологию массовой оплавки с частичным заполнением формы (MUF) для создания изолирующих слоёв между кристаллами памяти в стеке, тогда как Samsung до сих пор полагалась на использование термокомпрессионной непроводящей плёнки (NCF), обеспечивающей худшие условия теплоотвода.

Кроме того, на конвейере SK hynix уровень выхода годных чипов HBM3 колеблется в пределах 60–70 %, как считают некоторые эксперты, а у Samsung он едва достигает 10–20 %, поэтому последняя заинтересована в улучшении технологии производства микросхем памяти этого типа. Для этого она собирается перейти на использование метода MUF для изоляции кристаллов памяти в стеке, пусть и постепенно. Компания закупает необходимое оборудование и расходные материалы, но к массовому выпуску памяти по технологии MUF будет готова только к следующему году. Предполагается, что сейчас и на протяжении некоторого времени в дальнейшем Samsung будет комбинировать на своих предприятиях технологии NCF и MUF. По крайней мере, официально Samsung считает технологию NCF оптимальным решением для выпуска чипов памяти HBM3E.

Как отмечают аналитики TrendForce, память типа HBM3 для нужд Nvidia компания Samsung поставляет с конца прошлого года, но в текущем квартале ей удалось стать поставщиком данных микросхем для ускорителей AMD Instinct MI300, поэтому дальнейшая экспансия бизнеса Samsung в этой сфере не будет зависеть исключительно от Nvidia. В текущем году также ожидается планомерное увеличение рыночной доли памяти типа HBM3E, в этом случае Samsung свою продукцию такого типа сертифицирует к концу текущего квартала, почти догнав основных конкурентов в лице SK hynix и Micron. Последняя свои микросхемы HBM3E начнёт поставлять Nvidia как раз в конце этого квартала, лишь слегка опередив Samsung. Корейский гигант сможет значительно укрепить свои позиции в сегменте HBM3E к концу этого года, как считают представители TrendForce.

Желая сохранить лидирующие позиции на рынке памяти типа HBM, которая стала крайне востребована на волне ИИ-бума, южнокорейская компания SK hynix в этом году вложит в расширение мощностей по её тестированию и упаковке в родной стране более $1 млрд. По оценкам сторонних экспертов, общая величина капитальных затрат SK hynix в этом году достигнет $10,5 млрд.

Источник изображения: SK hynix

Поскольку на упаковку памяти будет направлена одна десятая часть этого бюджета, то данное направление деятельности можно признать приоритетным, как поясняет Bloomberg. Руководит данным бизнесом Ли Кан-ук (Lee Kang-Wook), который ранее занимался подобной работой в Samsung Electronics. Комбинация различных полупроводниковых материалов и разработка новых методов соединений являются сферами специализации этого бывшего инженера Samsung. По его мнению, первые 50 лет развития полупроводниковой отрасли были посвящены начальным этапам создания компонентов, связанных с обработкой кремния, а последующие 50 лет будут посвящены технологиям упаковки чипов.

Непосредственно Ли Кан-ук принимал участие в разработки методов упаковки чипов памяти типа HBM2E, именно эти ноу-хау позволили SK hynix стать главным поставщиком подобной памяти для нужд NVIDIA с конца 2019 года. Будучи инженером Samsung, он с 2002 года руководил разработкой межслойных соединений в многоярусных полупроводниковых компонентах. Эта технология в дальнейшем легла в основу создания микросхем памяти HBM, которые в последнем поколении насчитывают по 12 ярусов, соединяемых между собой вертикально. Когда в 2013 году SK hynix и AMD первыми начали применять HBM в серийных продуктах, никто из конкурентов не мог последовать их примеру на протяжении двух лет, пока к концу 2015 года Samsung не представила HBM2. Ли Кан-ук перешёл на работу в SK hynix тремя годами позднее.

Сейчас SK hynix сотрудничает с японскими компаниями в разработке более совершенной технологии формирования вертикальных межсоединений в микросхемах памяти HBM. В конце февраля Samsung объявила о завершении разработки микросхем HBM3E с 12 слоями, которые могут обеспечить объём памяти до 36 Гбайт в одном стеке. Micron Technology в то же время объявила о начале выпуска 8-слойной памяти HBM3E, которая может предложить объём до 24 Гбайт в одном стеке. Считается, что NVIDIA будет получать такие микросхемы от обоих конкурентов SK hynix. Помимо развития предприятий по упаковке HBM на территории Южной Кореи, SK hynix готовится вложить несколько миллиардов долларов в реализации профильного проекта на территории США.

Сегмент памяти типа HBM сейчас развивается очень динамично, поскольку именно ею оснащаются востребованные рынком ускорители вычислений для систем искусственного интеллекта. Компания Samsung Electronics заявила о разработке первого в мире 12-ярусного стека HBM3E совокупной ёмкостью 36 Гбайт, который обеспечивает передачу информации со скоростью 1280 Гбайт/с.

Источник изображения: Samsung Electronics

Как поясняется в лаконичном пресс-релизе производителя, по критерию ёмкости и скорости передачи информации 12-слойный стек HBM3E более чем на 50 % превосходит имеющиеся на рынке 8-слойные стеки HBM3. Особенностью технологии производства новой памяти является использование термокомпрессии в сочетании с диэлектрической плёнкой при формировании 12-слойных стеков и межслойных соединений. Результирующий 12-слойный стек HBM3E в итоге имеет такую же монтажную высоту, как и 8-слойный. Расстояние между кристаллами памяти в стеке не превышает 7 мкм, что является отраслевым рекордом. Плотность компоновки микросхем в стеке удалось увеличить более чем на 20 %.

Технология Samsung также подразумевает использование контактных шариков разной величины между слоями памяти. Малые шарики используются для передачи сигнала, а более крупные способствуют улучшению теплоотвода. Такая методика производства попутно повышает уровень выхода годной продукции, как утверждает Samsung. По оценкам компании, 12-слойная память типа HBM3E позволяет поднять скорость обучения систем искусственного интеллекта на 34 %, а количество одновременно обращающихся к ним пользователей может вырасти более чем в 11,5 раз по сравнению с 8-слойным стеком HBM3. Поставки памяти HBM3E в 12-ярусном исполнении в виде инженерных образцов для нужд клиентов Samsung уже начались, а массовое производство стартует в первой половине текущего года.

Компания Micron сообщила о старте массового производства высокопроизводительной памяти HBM3E в формате 8-этажных стеков объёмом 24 Гбайт. Такие микросхемы будут использоваться в составе специализированных ИИ-ускорителей NVIDIA H200, массовые поставки которых начнутся во втором календарном квартале 2024 года.

Источник изображения: Microsoft

В Micron заявляют, что растущий спрос на ИИ-вычисления требует новых высокопроизводительных решений в вопросе памяти. Новые микросхемы HBM3E от Micron полностью отвечают этим требованиям.

Для своих 8-слойных стеков памяти HBM3E объёмом 24 Гбайт компания Micron заявляет скорость передачи данных в 9,2 Гбит/с на контакт и пропускную способность более 1,2 Тбайт/с. По словам Micron, её чипы памяти HBM3E до 30 % энергоэффективнее аналогичных решений от других производителей.

Компания также отмечает, что большая ёмкость в 24 Гбайт чипов памяти HBM3E позволяет центрам обработки данных беспрепятственно масштабировать свои задачи, связанные с ИИ, будь то обучение массивных нейронных сетей или ускорение инференса.

Компания Micron производит чипы памяти HBM3E с использованием своего самого передового технологического процесса 1β (1-beta), а также передовой технологии сквозных соединений TSV (Through-silicon via) и других инновационных решений, связанных с упаковкой микросхем. Micron будет производить свои чипы памяти HBM3E на мощностях компании TSMC.

Производитель также сообщил, что в марте этого года начнёт рассылать производителям образы передовых 12-слойных чипов памяти HBM3E ёмкостью 36 Гбайт, которые обеспечат пропускную способность выше 1,2 Тбайт/с.