Микросхемы памяти LPDDR5X нашли применение в серверном сегменте, хотя изначально предназначались для мобильного, а по мере распространения на рынке систем поколения Vera Rubin тенденция будет выражена ещё сильнее. SK hynix сегодня сообщила о начале массового производства модулей памяти типа SOCAMM2 объёмом 192 Гбайт на чипах LPDDR5X.
Источник изображения: SK hynix
Соответствующую память SK hynix выпускает по 10-нм технологии нового поколения (1c), которая относится к шестому поколению соответствующих литографических норм. По информации SK hynix, такая память в исполнении SOCAMM2 обеспечивает вдвое более высокую пропускную способность по сравнению с обычными модулями RDIMM, а энергетическая эффективность выше на 75 %. Память в исполнении SOCAMM2 одинаково эффективна как при обучении ИИ-моделей, так и в инференсе, когда используются большие языковые модели с сотнями миллиардов параметров. Использование LPDDR5X позволяет снизить энергопотребление, что благоприятно сказывается на затратах на эксплуатацию всей вычислительной инфраструктуры.
По словам SK hynix, она уже готова снабжать облачных провайдеров памятью SOCAMM2 в модулях объёмом по 192 Гбайт в серьёзных количествах. Nvidia не будет единственным провайдером платформ, поддерживающим память в исполнении SOCAMM2, поскольку AMD в следующем году должна представить платформу Verano, которая также обеспечивает совместимость с такими модулями памяти. Помимо SK hynix, модули SOCAMM2 такого объёма поставляют Micron и Samsung Electronics.