SK hynix считается старожилом рынка памяти типа HBM, поскольку начала разрабатывать её в сотрудничестве с NVIDIA ещё в 2013 году, но крупнейший производитель микросхем памяти в лице Samsung готов бросить ей вызов в данном сегменте. В этом году корейский гигант увеличит капитальные затраты на выпуск HBM более чем в два с половиной раза, в следующем году данная сумма останется на таком же уровне.

Источник изображения: Samsung Electronics

К четвёртому кварталу текущего года, как отмечает Business Korea, компания Samsung Electronics собирается увеличить объёмы выпуска микросхем до 150–170 тысяч изделий в месяц. В текущем полугодии конкурирующая SK hynix начнёт выпускать микросхемы HBM3e по технологиям пятого поколения, и такая память найдёт применение в новейших ускорителях вычислений NVIDIA самое позднее в следующем году. Samsung свою память типа HBM3 четвёртого поколения выпускает с прошлого квартала, и стремится посоперничать с SK hynix за заказы NVIDIA на поставку HBM3e. Последняя из компаний уже завершила разработку HBM3e и сейчас проводит её сертификацию на соответствие требованиям NVIDIA.

По некоторым оценкам, в прошлом квартале SK hynix впервые выручила от поставок HBM свыше $749 млн — для южнокорейской компании это важный психологический рубеж, поскольку он соответствует сумме в 1 трлн вон. Принято считать, что ёмкость рынка микросхем типа HBM в прошлом году приблизилась к $4 млрд, а компания SK hynix занимает на нём лидирующие позиции с долей около 20 %. Перед Samsung стоит задача поколебать позиции конкурента, поэтому она решительно вкладывается в расширение производства HBM.

Аналитики TrendForce уже предрекали, что в натуральном выражении поставки памяти типа HBM вырастут более чем вдвое в текущем году. В свою очередь, представители Gartner ориентируются на денежный оборот этого сегмента рынка, и считают, что он удвоится в следующем году. Это будет означать, что выручка производителей памяти типа HBM вырастет с 2 до 4,98 млрд долларов — почти в два с половиной раза, если сравнивать с уровнем прошлого года.

Источник изображения: AMD

Данный прогноз опубликовало тайваньское издание Business Times со ссылкой на данные Gartner. Уже в этом году на рынке появятся ускорители вычислений, использующие память типа HBM3e: компания NVIDIA представит H200 и B100, а компания AMD выведет на рынок ускорители Instinct MI300X. Поставщики памяти типа HBM3e уже готовы начать снабжать ею своих клиентов со второго квартала текущего года.

Бурное развитие рынка и хорошая прибыль помогут Samsung Electronics и Micron Technology отыграть часть позиций в сегменте HBM у компании SK hynix, которая на правах старожила занимает доминирующее положение. Расширение конкуренции будет способствовать не только наращиванию объёмов поставок, но и снижению цен.

Тайваньские производители в изготовлении HBM пока готовы участвовать опосредованно, хотя та же Nanya и имеет опыт выпуска такой памяти. Поставщик оборудования Licheng собирается наладить выпуск решений для тестирования и упаковки стеков памяти типа HBM, уже к концу текущего года соответствующее оборудование начнёт производиться. Компания Creative сотрудничает с TSMC и SK hynix с целью применения интерфейса GLink-2.5D, разработанного ею, при производстве микросхем памяти типа HBM3 в упаковке CoWoS. Интересуются сопутствующими технологиями и более мелкие компании.

Южнокорейская компания SK hynix, как отмечает издание Business Korea со ссылкой на отраслевые источники, собирается в следующем году опубликовать результаты своих разработок по интеграции микросхем памяти методом «2,5D Fan-out». Он подразумевает соединение двух чипов встык и до этого при производстве микросхем памяти не применялся.

Источник изображения: SK hynix

Этот новый метод предлагает располагать два чипа DRAM рядом друг с другом горизонтально, а затем объединять их, как если бы они были одним чипом. Характерной особенностью является то, что готовая микросхема получается тоньше, так как под чипы не добавляется подложка.

По информации источника, TSMC с 2016 года подобную компоновку использует для интеграции разнородных чипов, и она нашла применение при выпуске процессоров для компании Apple, но производители памяти к данной технологии внимания до сих пор не проявляли. Как известно, вертикальная интеграция микросхем памяти типа HBM позволяет значительно увеличить пропускную способность интерфейса, но это весьма дорогой метод, а так называемый «2,5D Fan-out» мог бы стать разумной альтернативой при производстве других микросхем типа DRAM. Предполагается, что SK hynix такой метод интеграции применит при выпуске памяти типа GDDR для графических процессоров игрового уровня.

Как известно, AMD в своё время экспериментировала с применением памяти типа HBM первого поколения в потребительских графических решениях, но идея не получила развития из-за ограниченной экономической целесообразности. Возможно, если SK hynix в использовании альтернативной компоновки 2,5D продвинется дальше конкурентов, она сможет получить определённые преимущества в формировании контрактов с NVIDIA и AMD при выпуске компонентов для игровых видеокарт следующих поколений. Впрочем, поскольку в следующем году будут представлены только результаты исследований в этой сфере, на скорое внедрение данного типа компоновки в серийном производстве памяти рассчитывать не приходится.

Память типа HBM различных поколений активно используется ускорителями вычислений для систем искусственного интеллекта, а SK hynix пока остаётся единственным её поставщиком для нужд NVIDIA, которая доминирует на рынке этих ускорителей. Нет ничего удивительного в том, что в третьем квартале доля рынка DRAM компании SK hynix достигла рекордных для неё 35 %.

Источник изображения: SK hynix

Результатами статистических исследований Omdia поделился ресурс Business Korea. По словам экспертов, отрасль производства микросхем памяти типа DRAM стала одним из главных бенефициаров роста спроса на системы искусственного интеллекта. Если рынок DRAM в целом в период до 2027 года будет ежегодно прирастать на 21 % в среднем, по прогнозам аналитиков Omdia, то сегмент HBM в отдельности будет расти на 52 % ежегодно. По итогам текущего года доля HBM на рынке DRAM превысит 10 %, а в 2027 году она должна приблизиться к 20 %.

В более близкой перспективе спрос на HBM будет превышать предложение. В следующем году основные производители HBM удвоят объёмы выпуска такой памяти, но у них уже есть заказы на год вперёд, и удовлетворить их своевременно будет сложно даже после удвоения объёмов производства. Память типа HBM в 5–7 дороже классических типов DRAM, а менять её на новую потребители готовы чаще, в среднем раз в год или два. Всё это гарантирует производителям HBM стабильный рост выручки в обозримом будущем. В третьем квартале доля рынка DRAM компании SK hynix достигла максимальных 35 % за всю историю её существования.

Производителям памяти ради удовлетворения спроса на HBM порой даже придётся жертвовать планами по расширению выпуска других типов DRAM, как считают эксперты Omdia. Они также убеждены, что технологическая сложность HBM ограничит количество игроков рынка, и всего несколько компаний смогут делить между собой довольно высокую прибыль, получаемую в результате реализации памяти типа HBM. Только компании с хорошо выстроенной производственной инфраструктурой и контролем качества смогут сохранить свои позиции в этом сегменте рынка.

Южнокорейской компании SK hynix придётся отстаивать титул производителя самой быстрой в мире памяти типа HBM3E, поскольку этим летом компания Micron Technology объявила о разработке аналогичных микросхем со скоростью передачи информации более 1,2 Тбайт/с. Как поясняют представители американского производителя, образцы HBM3E этой марки сейчас проходят тестирование силами клиентов, а выручку от поставок серийных микросхем компания начнёт получать в следующем году.

Источник изображения: Micron Technology

По имеющимся данным, память типа HBM3E в исполнении Micron обладает восьмиярусной компоновкой и объёмом 24 Гбайт на стек, при этом она выпускается по технологии 1β и обладает выдающимися показателями энергоэффективности. Во всяком случае, при том уровне быстродействия, что предлагает эта память в исполнении Micron, по словам представителей компании, она настолько экономичнее предложений конкурентов, что некоторые из получивших образцы клиентов просто не верят полученным ими результатам тестирования. Коммерческие поставки этих микросхем Micron начнёт в следующем году, а сейчас проводит процедуру сертификации этой продукции на соответствие требованиям NVIDIA.

Если учесть, что память типа HBM (обобщённо) марки Samsung должна получить доступ к производственной инфраструктуре NVIDIA в этом году, то в следующем её поставщиками станут все три крупнейших производителя, включая Micron и SK hynix. Последняя в этом смысле является «старожилом» сегмента, но высокий спрос на ускорители NVIDIA явно обеспечит рынком сбыта продукцию конкурентов SK hynix. Едва выйдя на рынок памяти типа HBM3E, компания Micron уже в следующем году ожидает выручить от её реализации несколько сотен миллионов долларов США. Динамичное развитие этого сегмента рынка позволит Micron компенсировать слабый спрос на других направлениях. В следующем году компания вложит серьёзные средства в создание производственных линий по выпуску и упаковке микросхем HBM3E. Объёмы выпуска начнут наращиваться в начале следующего календарного года, и к концу августа выручка от реализации HBM3E уже достигнет значимых величин — тех самых сотен миллионов долларов США, по всей видимости.

С сентября прошлого года американские санкции ограничивают поставку в Китай не только готовых компонентов типа тех же ускорителей вычислений, но и оборудования для производства передовых чипов. Китайские компании просто вынуждены искать возможности для локального выпуска многих полупроводниковых компонентов. Среди них числится и высокоскоростная память для ускорителей вычислений, которая сейчас исключительно импортируется.

Источник изображения: CXMT

Для китайской полупроводниковой отрасли, как поясняет South China Morning Post, текущая ситуация на рынке не очень благоприятна. Основную часть микросхем памяти типа HBM, которая устанавливается на ускорители вычислений, по всему миру поставляют две южнокорейские компании SK hynix и Samsung Electronics. Некоторую часть памяти этого типа производит американская Micron Technology, которая в мае попала под санкции китайских властей, а потому операторы критически важной национальной инфраструктуры КНР теперь не имеют права использовать память Micron на своих объектах.

По данным осведомлённых источников, китайские компании изучают возможность самостоятельного выпуска памяти, по своим свойствам приближённой к HBM. Главным кандидатом на обеспечение технологического суверенитета КНР в этой сфере является китайская компания ChangXin Memory Technologies (CXMT), считающаяся ведущим национальным производителем микросхем DRAM. По оценкам участников рынка, ей может потребоваться не менее четырёх лет, чтобы освоить выпуск памяти типа HBM или её аналогов для нужд китайского сектора систем искусственного интеллекта.

Ограничения в сфере литографии, которые распространяются и на китайских производителей памяти, не слишком препятствуют выпуску HBM силами той же CXMT, но в Китае необходимо найти компанию, способную заниматься тестированием и упаковкой многоярусных чипов, к которым как раз и относится HBM всех поколений. Источники утверждают, что на роль такого технологического партнёра CXMT лучше всего годится местная компания Jiangsu Changjiang Electronics Technology. Самой CXMT сейчас доступны 17- и 19-нм техпроцессы, чего вполне достаточно для удовлетворения текущих потребностей китайской промышленности в микросхемах оперативной памяти.

Растущий спрос на серверные системы для искусственного интеллекта привёл к росту поставок памяти HBM. В сочетании с волной наращивания запасов DDR5 на стороне клиента, второй квартал 2023 года показал рост поставок всех трёх основных крупнейших производителей оперативной памяти DRAM. Выручка индустрии за второй квартал достигла $11,43 млрд — это рост на 20,4 % по сравнению с первым кварталом и прекращение спада, продолжавшегося до этого три квартала подряд.

Источник изображения: unspalsh.com

Наибольший рост квартальных поставок, более 35 %, продемонстрировала SK hynix. Поставки DDR5 и HBM с более высокой средней ценой продажи (ASP — Average Selling Price), значительно увеличились. В результате ASP выросла на 7-9 %, что привело к увеличению выручки за второй квартал 2023 года почти на 50 %. С доходом в $3,44 млрд SK hynix заняла второе место в отрасли, лидируя по темпам роста в этом секторе.

Samsung, в отличие от SK hynix, показала падение ASP примерно на 7-9 %. Однако, благодаря наращиванию складских запасов клиентами и увеличению спроса на серверы искусственного интеллекта, объёмы поставок всё же немного увеличились, что привело к росту выручки за второй квартал на 8,6 % по сравнению с первым кварталом, достигнув $4,53 млрд и обеспечив компании лидирующую позицию по валовому доходу.

Micron, занявшая третье место, немного задержалась с разработкой HBM. Тем не менее, поставки DDR5 составляли значительную долю, сохраняя ASP относительно стабильным. Выручка компании во втором квартале составила около $2,95 млрд, показав рост на 15,7 % по сравнению с первым кварталом.

В целом, из-за продолжающегося снижения контрактных цен на различные продукты, поставщики продолжают сообщать об отрицательной рентабельности операционной прибыли. Во втором квартале 2023 года операционная рентабельность Samsung улучшилась с -24 % до -9 %. SK hynix продемонстрировала одновременный рост выручки и ASP, что повысило операционную рентабельность с -50 % до -2 %. Операционная рентабельность Micron также слегка улучшилась с -55,4 % до -36 %.

Поставки Nanya снижаются уже более четыре квартала подряд. Однако благодаря заказам на телевизоры во втором квартале 2023 года выручка компании выросла примерно на 8,2 %. Выручка Winbond во втором квартале выросла на 6,9 %, в первую очередь благодаря объявлению тендеров в Китае и введённым в строй дополнительным мощностям, что обеспечило большую гибкость ценообразования и привело к увеличению заказов.

PSMC в основном получает доход от потребительских продуктов DRAM собственного производства. Из-за низкого спроса и не самого современного техпроцесса, лишённого конкурентных ценовых преимуществ, выручка PSMC снизилась на 7,8 % по сравнению с первой четвертью года, сделав компанию единственным поставщиком, у которого наблюдался спад во втором квартале.

Источник изображения: Trendforce

Эксперты полагают, что доходы индустрии DRAM продолжат расти в третьем квартале 2023 года. Планомерное сокращение производства поставщиками препятствует дальнейшему снижению цен. Ожидается, что убытки из-за падения цен уменьшатся, а рентабельность наконец сместится от убытков в сторону прибыли.

Специалисты TrendForce поделились собственными представлениями о тенденциях развития рынка памяти типа HBM как в этом, так и в следующем году. В этом году будет наблюдаться дефицит микросхем памяти данного типа, но в следующем объёмы поставок смогут вырасти на 105 % за счёт расширения производственных мощностей. При этом два южнокорейских производителя смогут увеличить свою долю рынка в ущерб Micron Technology.

Источник изображения: SK hynix

Сейчас производители памяти типа HBM наращивают объёмы выпуска соответствующих микросхем, но линии по их упаковке в вертикальные стеки требуют от 9 до 12 месяцев на монтаж и настройку, поэтому существенного увеличения объёмов поставок готовой продукции в этой сфере не приходится ожидать ранее второго квартала следующего года.

Формально, на рынке присутствуют до трёх поколений памяти одновременно: HBM/HBM2, HBM2e и HBM3. Последняя считается четвёртым поколением, и на подходе уже пятое поколение микросхем, именуемое HBM3e. Шестым же станет HBM4, над разработкой которой уже трудятся корейские компании. Если в 2022 году на долю HBM3 приходились всего 8 % мирового рынка, а HBM2e занимала внушительные 70 %, то в текущем году спрос на HBM3 со стороны производителей ускорителей вычислений позволит поднять долю этого поколения памяти до 39 %. При этом доля HBM2e снизится до 50 %. Ну, а в следующем году доля HBM3 вырастет до 60 %, а HBM2e будет занимать не более 25 % рынка. В совокупности с ростом цен это приведёт к существенному увеличению выручки производителей данных типов памяти.

По итогам 2022 года компания SK hynix контролировала 50 % рынка HBM3, причём отчасти она могла благодарить за это компанию NVIDIA, которую снабжает данной памятью. Samsung Electronics довольствовалась 40 % рынка, а Micron — умеренными 10 %. Тем не менее, если в этом году SK hynix и Samsung будут стремиться к паритету на уровне 46–49 % рынка, то Micron придётся ужаться до 4–6 %. В следующем году доля последней может сократиться до 3–5 %, как считают аналитики TrendForce. Впрочем, эта американская компания сосредоточена на разработке памяти типа HBM3e, а потому может отыграться в будущем. Такую память, в частности, будут использовать представленные недавно NVIDIA ускорители вычислений GH200, поставки которых начнутся во втором квартале.

Как считают эксперты, цены на микросхемы HBM2 и HBM2e могут снизиться по итогам текущего года, поскольку они в меньшей степени востребованы рынком, чем HBM3. Высокий спрос на последний тип памяти в сочетании с высокими ценами будет способствовать росту выручки производителей HBM на 127 % до $8,9 млрд по итогам следующего года. В натуральном выражении объёмы поставок памяти вырастут на 105 %.

Samsung Electronics обеспечит компании NVIDIA поставку высокопроизводительных полупроводниковых компонентов и услуги по упаковке чипов. Сотрудничество с таким партнёром поможет корейскому электронному гиганту обеспечить себя заказами и от других технологических компаний.

Источник изображений: semiconductor.samsung.com

Samsung и NVIDIA сейчас проводят технологическую проверку стеков памяти HBM3 (High Bandwidth Memory) от Samsung, а также качества услуг по упаковке чипов для графических процессоров американской компании, сообщает Korea Economic Daily со ссылкой на собственный источник из Сеула. По завершении работ Samsung будет осуществлять упаковку чипов H100, составляющих основу ускорителей NVIDIA для систем искусственного интеллекта, а также станет поставщиком стеков памяти HBM3 для этих ускорителей. Соглашение будет заключено в конце года.

Упаковка — один из последних этапов производства полупроводников. Она предполагает размещение микросхемы на подложке из текстолита со всеми контактами и интерфейсами, необходимыми для работы чипа и его подключения к другим компонентам системы. NVIDIA традиционно полагалась на TSMC, которая производит упаковку чипов с использованием собственной технологии; память HBM3 для ускорителей выпускала SK hynix. Но в связи с высоким спросом на компоненты для ИИ, а также загруженностью линий TSMC американский производитель был вынужден искать альтернативное предложение, которое ей обеспечила Samsung. В рамках нового партнёрства корейская компания может получить заказ и на производство самих графических процессоров NVIDIA, но пока речь только о поставках памяти и упаковке чипов. Все больше технологических компаний могут начать обращаться в Samsung в связи с загруженностью упаковочных линий TSMC, утверждает источник издания.

Крупнейшие мировые полупроводниковые подрядчики в лице Samsung, TSMC и Intel жёстко конкурируют на рынке передовых технологий упаковки, позволяющих объединять разнородные компоненты или вертикально соединять несколько микросхем. В 2021 году мировой рынок этого сегмента составлял $37,4 млрд, а к 2027 году он может вырасти на 74 % до $65 млрд. Сегодня отрасль сосредоточен на технологии 2.5D, предполагающей симбиоз графических процессоров и памяти HBM, которая в 10 раз быстрее DRAM. Мировым лидером является TSMC, которая вот уже шесть лет работает над технологией 2.5D — недавно компания сообщила, что планирует инвестировать 90 млрд тайваньских долларов ($2,9 млрд) в новый завод по производству упаковки на Тайване. В 2021 году компания представила технологию 2.5D I-Cube: во II квартале 2024 года стартует массовое производство компонентов I-Cube4 с графическим процессором и четырьмя чипами HBM, а в III квартале настанет черёд I-Cube8 с восемью чипами HBM.

Samsung же стремится сделать своей сильной стороной предложение упаковки «под ключ», способное привлечь крупные технологические компании. Корейский производитель начал оказывать услугу, охватывающую весь процесс выпуска полупроводников: поставки чипов памяти, упаковку и тестирование — это поможет компании стать привлекательной альтернативой TSMC в условиях интенсивного роста отрасли ИИ. Спрос на услугу «под ключ» будет расти, помогая клиентам экономить время и деньги, а не привлекать подрядчиков для каждой услуги.

Кроме того, Samsung и её местный конкурент SK hynix планируют значительно расширить линии производства памяти типа HBM — к концу 2024 года они планируют вложить в это направление более 2 трлн вон ($1,56 млрд), что поможет более чем вдвое увеличить производственную мощность линий HBM. Пока рынок DRAM пытается выйти из пике, спрос на HBM продолжает демонстрировать положительную динамику: в 2022 году он был 181 млн Гбайт; в 2023 году может подскочить на 60 % до 290 млн Гбайт, а в 2024 году может вырасти ещё на 30 % в годовом исчислении, подсчитали аналитики TrendForce.

По мнению многих аналитиков, индустрия памяти может быстрее выйти из текущего кризиса перепроизводства за счёт активно растущего спроса на микросхемы типа HBM со стороны производителей компонентов для систем искусственного интеллекта. Сейчас память данного типа определяет не более 5 % всей выручки в отрасли, но уже к 2026 году эта доля может вырасти до 20 %.

Источник изображения: SK hynix

Такими прогнозами делятся с The Wall Street Journal аналитики SemiAnalysis. По их данным, микросхемы типа HBM в среднем в пять раз дороже стандартных DRAM, поэтому в показателях выручки они достаточно быстро смогут нарастить свой удельный вес, даже если динамика натуральных показателей будет изменяться умеренными темпами.

По данным TrendForce, в прошлом году примерно половину рынка памяти типа HBM контролировала южнокорейская компания SK hynix, она являлась основным поставщиком соответствующих микросхем для нужд NVIDIA, которая лидирует в сегменте ускорителей вычислений для систем искусственного интеллекта. На долю Samsung Electronics приходилось 40 % сегмента, а поздно вступившая на рынок Micron Technology довольствовалась 10 %. На апрельской отчётной конференции руководство SK hynix заявило, что в 2023 году выручка компании от реализации микросхем HBM вырастет более чем на 50 % по сравнению с прошлым годом. Samsung тоже рассчитывает заработать на буме ИИ с точки зрения поставок микросхем памяти.

Аналитики Citi добавили, что доля используемой в системах ИИ оперативной памяти к 2025 году вырастет с текущих 16 до 41 %, поэтому данный сегмент рынка начнёт существенно влиять на выручку поставщиков памяти. Впрочем, в краткосрочной перспективе данный фактор не способен исправить ситуацию с перепроизводством микросхем памяти, поэтому многие производители сталкиваются с существенными убытками и сокращают объёмы выпуска продукции до рекордно низких величин.

Ученые Токийского технологического института представили вариант стековой оперативной памяти, который в четыре раза быстрее памяти HBM2E и при этом потребляет в пять раз меньше энергии. Новый вариант памяти назвали Bumpless Build Cube 3D (BBCube) за отсутствие в его основе традиционных массивов шариковых контактов для послойной пайки кристаллов.

Источник изображений: Tokyo Institute of Technology

Решение было представлено на симпозиуме VLSI IEEE 2023 в июне 2023 года. Японские исследователи не просто предложили концепцию, они представили детальное описание техпроцесса для изготовления такой памяти.

Память HBM, как известно, помогает обойти ряд ограничений на работу с блоком ОЗУ специализированного, центрального и графического процессора. Это ограничения на доступный процессору объём оперативной памяти, что обходит стековая архитектура HBM, а также ограничения на пропускную способность, что тоже решается стеком и структурной организацией HBM.

В то же время современный подход к сборке стеков HBM накладывает свои ограничения на возможности этой памяти. Каждый слой (кристалл DRAM) в стеке нельзя сделать тоньше определённой величины и нельзя увеличить количество межслойных контактов-шариков выше определённого значения. В противном случае это грозит механическими повреждениями и коротким замыканием. Проще говоря, увеличивает уровень брака, что никому не нужно.

Японцы предложили выбросить из техпроцесса сборки стека DRAM шарики-контакты. Это даст целый ряд преимуществ: кристаллы станут тоньше, поскольку уменьшатся механические напряжения в слоях, линии сквозных соединений TSVs станут короче (это позволит чипам лучше охлаждаться за счёт более высокой плотности TSVs на объём кристаллов — это будут своего рода тепловые трубки), стеки будут укрупняться, что позволит увеличить объём отдельных модулей до 64 Гбайт при использовании 16-Гбит кристаллов (в теории допустимо собирать до 40 кристаллов в стеке).

Профессор Такаюки Охба (Takayuki Ohba), руководитель исследовательской группы, сказал: «BBCube 3D имеет потенциал для достижения пропускной способности в 1,6 терабайт в секунду, что в 30 раз выше, чем у DDR5 и в четыре раза выше, чем у HBM2E».

Проблему взаимных помех в сильно уплотнённых линиях TSVs-соединений предложено решить за счёт управления фазами сигналов в соседних линиях. Управляющий сигнал в определённой линии ввода-вывода никогда не возникнет, пока активны соседние линии.

Охба добавил: «Благодаря низкому тепловому сопротивлению и низкому импедансу BBCube, проблемы терморегулирования и питания, характерные для 3D-интеграции, могут быть сняты. В результате, предложенная технология может достичь потрясающей пропускной способности с энергией доступа к битам, которая составит 1/20 и 1/5 от DDR5 и HBM2E, соответственно».

Высокий уровень спроса на ИИ-серверы стимулировал спрос на оперативную память с высокой пропускной способностью (HBM). По данным TrendForce, основными поставщиками памяти HBM в 2022 году стали SK hynix (50 % рынка), Samsung (40 % рынка) и Micron (10 % рынка). Аналитики считают, что по итогам нынешнего года южнокорейская SK hynix займёт больше половина глобального рынка HBM.

Источник изображения: SK hynix

Во второй половине 2023 года начнётся производство серверных ускорителей NVIDIA H100 и AMD MI300 с памятью HBM3. В настоящее время только SK hynix запустила серийное производство памяти этого типа. Аналитики считают, что по итогам всего года это поможет южнокорейскому производителю увеличить долю рынка до 53 %. Ожидается, что Samsung и Micron начнут выпускать память HBM3 в конце этого или начале следующего года. По прогнозам аналитиков, доля этих компаний на рынке по итогам года составит 38 % и 9 % соответственно.

Аналитики TrendForce прогнозируют, что объём поставок ИИ-серверов увеличится на 15,4 % в 2023 году. Более того, в период с 2023 по 2027 годы прогнозируется 12,2 % годовой рост поставок ИИ-серверов. Этому будет способствовать запуск сервисов и услуг на основе генеративных нейросетей. Ожидается, что спрос на ИИ-серверы будут поддерживать крупные поставщики облачных услуг, такие как Google, Amazon, Meta✴ и Microsoft, а также IT-гиганты, занимающиеся разработкой сервисов на основе ИИ, такие как Microsoft, Meta✴, Baidu, ByteDance и др.

Источник изображения: TrendForce

В сообщении TrendForce отмечается, что рост спроса на ИИ-серверы стимулирует продажи серверной памяти DRAM, SSD и HBM. В то время как серверы общего назначения обычно имеют 500-600 Гбайт памяти DRAM, ИИ-серверы требуют значительно больших объёмов — в среднем 1,2-1,7 Тбайт памяти. Для твердотельных накопителей корпоративного уровня приоритет по-прежнему отдаётся памяти DRAM и HBM, но пока не наблюдается значительного толчка в плане увеличения ёмкости SSD. С точки зрения интерфейса, PCIe 5.0 является более предпочтительным, когда речь идёт об удовлетворении потребностей высокопроизводительных вычислений. Поскольку ИИ-серверы становятся более сложными, спрос на серверную память DRAM, SSD и HBM продолжит расти.

Мировое производство чипов памяти переживает огромнейший спад спроса. Во втором полугодии 2022 года были зафиксированы самые значительные квартальные падения цен за всё время с момента начала наблюдений, пишет агентство Bloomberg.

Источник изображения: Pixabay

По данным TrendForce, средняя цена на оперативную память DRAM упала в третьем квартале прошлого года на 31,4 % по сравнению с тем же периодом 2021 года, а в четвёртом квартале падение усилилось, составив 34,4 %. Ситуация с чипами флеш-памяти NAND ненамного лучше, сообщили аналитики, отметив, что за эти кварталы были зарегистрированы самые значительные снижения цен в отрасли с 2006 года.

Из-сложившейся ситуации большинство ведущих вендоров сократили объёмы производства и приостановили строительство новых мощностей. Компании Micron Technology, SK hynix и Kioxia объявили о мерах по стабилизации рынка с помощью сдерживания избыточного предложения. Исключение составляет лишь Samsung Electronics, которая планирует направить в этом году более $30 млрд на наращивание производственных мощностей.

Samsung делает ставку на долгосрочный рост потребления микросхем памяти, обусловленный растущим развёртыванием ресурсоёмких облачных сервисов, увеличением производства подключённых автомобилей и внедрением систем искусственного интеллекта. В своём последнем квартальном отчёте компания прогнозирует дальнейшее сокращение рынка смартфонов, вместе с тем ожидая, что ИИ-решения, такие как чат-бот ChatGPT, станут драйвером роста спроса на её продукцию.

Ранее в этом месяце ресурс BusinessKorea сообщил о том, что у Samsung Electronics и SK hynix отмечен значительный рост заказов в этом году на память с высокой пропускной способностью (HBM), которая в сочетании с мощными процессорами и графическими ускорителями позволяет значительно повысить производительность серверов при обучении и вычислениях ИИ.

Южнокорейские источники сообщают, что с начала года объём заказов на память HBM резко возрос как у SK hynix, так и у Samsung. Это взвинтило цены на чипы HBM — их закупочная стоимость сегодня в пять раз больше, чем самой передовой традиционной оперативной памяти. Рост спроса вызван взрывной популярностью чат-ботов с ИИ, которые как ничто другое требовательны к пропускной способности памяти. И это скоро изменит весь рынок компьютерной памяти, уверены эксперты.

Компоновка памяти HBM

Неназванный представитель отрасли заявил источнику, что разработка новых техпроцессов больше не в приоритете у производителей чипов памяти. Компании будут соревноваться в выпуске наиболее быстрых чипов памяти, включая решения с обработкой процессов непосредственно в памяти. К последним относится память HBM-PIM, представленная компанией Samsung в феврале 2021 года и компанией SK hynix в феврале 2022 года.

Разработка платформ искусственного интеллекта для многих компаний становится приоритетной, и модули памяти типа HBM и HBM-PIM получают колоссальный толчок, что действительно способно изменить правила игры на рынке памяти. Разработчиков платформ не останавливает то, что память HBM как минимум в три раза дороже обычной памяти. Рост спроса и явная неспособность удовлетворить его в полном объёме уже привели к росту цен на этот тип памяти, что не смягчает динамику, а только её подогревает. Искусственный интеллект и расширение связанных с ним услуг очевидным образом ломает ситуацию.

К компании SK hynix, как к лидирующему производителю чипов HBM3 в очередь выстроились NVIDIA, Intel и AMD. «Цена HBM3 выросла в пять раз по сравнению с самой высокопроизводительной DRAM», — поделился знаниями один из инсайдеров.

Компания SK hynix начала выпускать память типа HBM самой первой, представив её ещё в 2013 году, а дебютировала она в видеокартах AMD Radeon R9 Fury на GPU Fiji в 2015 году. С тех пор этот южнокорейский чипмейкер выпустил HBM второго поколения (HBM2), третьего (HBM2E) и четвёртого (HBM3), обеспечив себе от 60 % до 70 % этого рынка.

Высочайшую производительность памяти HBM обеспечивает стековая компоновка кристаллов, пронизанных сверху донизу сквозными контактами и фактически прямая связь с центральным или графическим процессором. Ни одна другая память не может работать с похожей пропускной способностью, а это самое узкое место в интенсивных вычислениях. Память HBM решает эту проблему намного лучше других типов памяти и это определило её будущее на ближайшие годы бурного развития ИИ.