Желая сохранить лидирующие позиции на рынке памяти типа HBM, которая стала крайне востребована на волне ИИ-бума, южнокорейская компания SK hynix в этом году вложит в расширение мощностей по её тестированию и упаковке в родной стране более $1 млрд. По оценкам сторонних экспертов, общая величина капитальных затрат SK hynix в этом году достигнет $10,5 млрд.

Источник изображения: SK hynix

Поскольку на упаковку памяти будет направлена одна десятая часть этого бюджета, то данное направление деятельности можно признать приоритетным, как поясняет Bloomberg. Руководит данным бизнесом Ли Кан-ук (Lee Kang-Wook), который ранее занимался подобной работой в Samsung Electronics. Комбинация различных полупроводниковых материалов и разработка новых методов соединений являются сферами специализации этого бывшего инженера Samsung. По его мнению, первые 50 лет развития полупроводниковой отрасли были посвящены начальным этапам создания компонентов, связанных с обработкой кремния, а последующие 50 лет будут посвящены технологиям упаковки чипов.

Непосредственно Ли Кан-ук принимал участие в разработки методов упаковки чипов памяти типа HBM2E, именно эти ноу-хау позволили SK hynix стать главным поставщиком подобной памяти для нужд NVIDIA с конца 2019 года. Будучи инженером Samsung, он с 2002 года руководил разработкой межслойных соединений в многоярусных полупроводниковых компонентах. Эта технология в дальнейшем легла в основу создания микросхем памяти HBM, которые в последнем поколении насчитывают по 12 ярусов, соединяемых между собой вертикально. Когда в 2013 году SK hynix и AMD первыми начали применять HBM в серийных продуктах, никто из конкурентов не мог последовать их примеру на протяжении двух лет, пока к концу 2015 года Samsung не представила HBM2. Ли Кан-ук перешёл на работу в SK hynix тремя годами позднее.

Сейчас SK hynix сотрудничает с японскими компаниями в разработке более совершенной технологии формирования вертикальных межсоединений в микросхемах памяти HBM. В конце февраля Samsung объявила о завершении разработки микросхем HBM3E с 12 слоями, которые могут обеспечить объём памяти до 36 Гбайт в одном стеке. Micron Technology в то же время объявила о начале выпуска 8-слойной памяти HBM3E, которая может предложить объём до 24 Гбайт в одном стеке. Считается, что NVIDIA будет получать такие микросхемы от обоих конкурентов SK hynix. Помимо развития предприятий по упаковке HBM на территории Южной Кореи, SK hynix готовится вложить несколько миллиардов долларов в реализации профильного проекта на территории США.

Сегмент памяти типа HBM сейчас развивается очень динамично, поскольку именно ею оснащаются востребованные рынком ускорители вычислений для систем искусственного интеллекта. Компания Samsung Electronics заявила о разработке первого в мире 12-ярусного стека HBM3E совокупной ёмкостью 36 Гбайт, который обеспечивает передачу информации со скоростью 1280 Гбайт/с.

Источник изображения: Samsung Electronics

Как поясняется в лаконичном пресс-релизе производителя, по критерию ёмкости и скорости передачи информации 12-слойный стек HBM3E более чем на 50 % превосходит имеющиеся на рынке 8-слойные стеки HBM3. Особенностью технологии производства новой памяти является использование термокомпрессии в сочетании с диэлектрической плёнкой при формировании 12-слойных стеков и межслойных соединений. Результирующий 12-слойный стек HBM3E в итоге имеет такую же монтажную высоту, как и 8-слойный. Расстояние между кристаллами памяти в стеке не превышает 7 мкм, что является отраслевым рекордом. Плотность компоновки микросхем в стеке удалось увеличить более чем на 20 %.

Технология Samsung также подразумевает использование контактных шариков разной величины между слоями памяти. Малые шарики используются для передачи сигнала, а более крупные способствуют улучшению теплоотвода. Такая методика производства попутно повышает уровень выхода годной продукции, как утверждает Samsung. По оценкам компании, 12-слойная память типа HBM3E позволяет поднять скорость обучения систем искусственного интеллекта на 34 %, а количество одновременно обращающихся к ним пользователей может вырасти более чем в 11,5 раз по сравнению с 8-слойным стеком HBM3. Поставки памяти HBM3E в 12-ярусном исполнении в виде инженерных образцов для нужд клиентов Samsung уже начались, а массовое производство стартует в первой половине текущего года.

Компания Micron сообщила о старте массового производства высокопроизводительной памяти HBM3E в формате 8-этажных стеков объёмом 24 Гбайт. Такие микросхемы будут использоваться в составе специализированных ИИ-ускорителей NVIDIA H200, массовые поставки которых начнутся во втором календарном квартале 2024 года.

Источник изображения: Microsoft

В Micron заявляют, что растущий спрос на ИИ-вычисления требует новых высокопроизводительных решений в вопросе памяти. Новые микросхемы HBM3E от Micron полностью отвечают этим требованиям.

Для своих 8-слойных стеков памяти HBM3E объёмом 24 Гбайт компания Micron заявляет скорость передачи данных в 9,2 Гбит/с на контакт и пропускную способность более 1,2 Тбайт/с. По словам Micron, её чипы памяти HBM3E до 30 % энергоэффективнее аналогичных решений от других производителей.

Компания также отмечает, что большая ёмкость в 24 Гбайт чипов памяти HBM3E позволяет центрам обработки данных беспрепятственно масштабировать свои задачи, связанные с ИИ, будь то обучение массивных нейронных сетей или ускорение инференса.

Компания Micron производит чипы памяти HBM3E с использованием своего самого передового технологического процесса 1β (1-beta), а также передовой технологии сквозных соединений TSV (Through-silicon via) и других инновационных решений, связанных с упаковкой микросхем. Micron будет производить свои чипы памяти HBM3E на мощностях компании TSMC.

Производитель также сообщил, что в марте этого года начнёт рассылать производителям образы передовых 12-слойных чипов памяти HBM3E ёмкостью 36 Гбайт, которые обеспечат пропускную способность выше 1,2 Тбайт/с.