Сегмент памяти типа HBM сейчас развивается очень динамично, поскольку именно ею оснащаются востребованные рынком ускорители вычислений для систем искусственного интеллекта. Компания Samsung Electronics заявила о разработке первого в мире 12-ярусного стека HBM3E совокупной ёмкостью 36 Гбайт, который обеспечивает передачу информации со скоростью 1280 Гбайт/с.

Источник изображения: Samsung Electronics

Как поясняется в лаконичном пресс-релизе производителя, по критерию ёмкости и скорости передачи информации 12-слойный стек HBM3E более чем на 50 % превосходит имеющиеся на рынке 8-слойные стеки HBM3. Особенностью технологии производства новой памяти является использование термокомпрессии в сочетании с диэлектрической плёнкой при формировании 12-слойных стеков и межслойных соединений. Результирующий 12-слойный стек HBM3E в итоге имеет такую же монтажную высоту, как и 8-слойный. Расстояние между кристаллами памяти в стеке не превышает 7 мкм, что является отраслевым рекордом. Плотность компоновки микросхем в стеке удалось увеличить более чем на 20 %.

Технология Samsung также подразумевает использование контактных шариков разной величины между слоями памяти. Малые шарики используются для передачи сигнала, а более крупные способствуют улучшению теплоотвода. Такая методика производства попутно повышает уровень выхода годной продукции, как утверждает Samsung. По оценкам компании, 12-слойная память типа HBM3E позволяет поднять скорость обучения систем искусственного интеллекта на 34 %, а количество одновременно обращающихся к ним пользователей может вырасти более чем в 11,5 раз по сравнению с 8-слойным стеком HBM3. Поставки памяти HBM3E в 12-ярусном исполнении в виде инженерных образцов для нужд клиентов Samsung уже начались, а массовое производство стартует в первой половине текущего года.

Компания Micron сообщила о старте массового производства высокопроизводительной памяти HBM3E в формате 8-этажных стеков объёмом 24 Гбайт. Такие микросхемы будут использоваться в составе специализированных ИИ-ускорителей NVIDIA H200, массовые поставки которых начнутся во втором календарном квартале 2024 года.

Источник изображения: Microsoft

В Micron заявляют, что растущий спрос на ИИ-вычисления требует новых высокопроизводительных решений в вопросе памяти. Новые микросхемы HBM3E от Micron полностью отвечают этим требованиям.

Для своих 8-слойных стеков памяти HBM3E объёмом 24 Гбайт компания Micron заявляет скорость передачи данных в 9,2 Гбит/с на контакт и пропускную способность более 1,2 Тбайт/с. По словам Micron, её чипы памяти HBM3E до 30 % энергоэффективнее аналогичных решений от других производителей.

Компания также отмечает, что большая ёмкость в 24 Гбайт чипов памяти HBM3E позволяет центрам обработки данных беспрепятственно масштабировать свои задачи, связанные с ИИ, будь то обучение массивных нейронных сетей или ускорение инференса.

Компания Micron производит чипы памяти HBM3E с использованием своего самого передового технологического процесса 1β (1-beta), а также передовой технологии сквозных соединений TSV (Through-silicon via) и других инновационных решений, связанных с упаковкой микросхем. Micron будет производить свои чипы памяти HBM3E на мощностях компании TSMC.

Производитель также сообщил, что в марте этого года начнёт рассылать производителям образы передовых 12-слойных чипов памяти HBM3E ёмкостью 36 Гбайт, которые обеспечат пропускную способность выше 1,2 Тбайт/с.