Компания Samsung анонсировала модуль памяти SOCAMM2 на базе чипов LPDDR5X, разработанный специально для платформ центров обработки данных с поддержкой ИИ. Новый формат памяти призван обеспечить преимущества LPDDR5X в плане энергоэффективности и пропускной способности для серверов без необходимости постоянной пайки чипов памяти на несущую материнскую плату.
Источник изображений: Samsung
Память SOCAMM2 ориентирована на определённый и растущий класс систем, где процессоры или суперчипы CPU–GPU работают в паре с большими пулами системной памяти, которые должны обеспечивать высокую пропускную способность при меньшем энергопотреблении, чем могут предложить обычные серверные модули DIMM, — и всё это в более компактном форм-факторе. По мере расширения рабочих нагрузок в области вывода данных и перехода ИИ-серверов к непрерывной работе в режиме постоянной доступности энергоэффективность памяти больше не может рассматриваться как второстепенная оптимизация, поскольку она вносит существенный вклад в эксплуатационные расходы на уровне стойки. SOCAMM2 является ответом на эти вызовы.
Samsung отмечает, что, хотя серверные модули на базе чипов DRAM, такие как RDIMM (Registered Dual Inline Memory Module), по-прежнему служат основой для высокопроизводительных серверов общего назначения, SOCAMM2 предлагает дополнительную альтернативу, оптимизированную для серверов следующего поколения с ускорением ИИ, которым требуются как высокая скорость отклика, так и энергоэффективность. Память SOCAMM2 обеспечивает более чем в два раза большую пропускную способность по сравнению с традиционными модулями RDIMM, при этом потребляя более чем на 55 % меньше энергии и поддерживая стабильную высокую производительность при интенсивных ИИ-нагрузках, что делает это решение идеальным для энергоэффективных серверов ИИ, ориентированных на производительность. Кроме того, повышенная энергоэффективность SOCAMM2 упрощает задачу организации и управления охлаждением ИИ-систем, что является критически важным фактором для сред с высокой плотностью размещения вычислительных ИИ-мощностей.
Samsung заявляет, что уже сотрудничает с компанией Nvidia по развитию инфраструктурных решений с использованием подобных модулей памяти, и позиционирует формат SOCAMM2 как естественный ответ на растущие затраты на электроэнергию, ограничения по плотности размещения и проблемы с ремонтопригодностью в крупномасштабных инстансах.
Samsung также отмечает, что по мере роста масштабов и сложности рабочих нагрузок ИИ компания будет и дальше развивать свой портфель серверной памяти на основе LPDDR.
Источник:


MWC 2018
2018
Computex
IFA 2018






