В своё время память типа HBM, характеризуемая вертикальной компоновкой нескольких кристаллов, была предложена именно ради повышения пропускной способности и ёмкости при ограниченных площадных габаритах. Тем не менее, потребности чипов ускорителей в объёме памяти и её пропускной способности явно превышают возможности производителей HBM, поэтому они задумал «отселить» её с чипа GPU.
Источник изображения: Nvidia, ZDNet
Как поясняет ZDNet со ссылкой на одного из южнокорейских производителей памяти, инженеры компании думают о перспективе переноса HBM с общей с GPU упаковки на отдельную печатную плату. При этом скоростной обмен данных планируется организовать при помощи оптических интерфейсов, которые будут соединять блок памяти с GPU. Такая компоновка позволит увеличить объём доступной одному GPU памяти типа HBM в несколько раз. Обсуждением этой концепции производители HBM уже занимаются со своими клиентами, как сообщает источник.
Прежний метод масштабирования ёмкости HBM за счёт наращивания количества слоёв в стеке рано или поздно себя изживёт. Уже сейчас предлагается память с 16-ярусной компоновкой, в перспективе количество слоёв вырастет до 20 штук, но сложность и стоимость производства такой памяти при этом увеличивается экспоненциально. При этом увеличивать количество чипов HBM вокруг GPU также проблематично, поскольку они не могут удаляться от него достаточно сильно без потери скорости передачи информации. Остаётся только работать над более скоростным интерфейсом, который позволит увеличить длину соединений без потери для быстродействия.
Отдельной проблемой является поиск места для расположения чипов HBM, поскольку печатная плата ускорителя с GPU и без того плотно населена различными элементами. Возможно, чипы памяти будут располагаться на собственной небольшой печатной плате, которая будет монтироваться на основную вторым ярусом с оборотной стороны. Новый подход к размещению HBM также требует согласования с компаниями, специализирующимися на упаковке чипов, поскольку им предстоит внедрить оптический интерфейс.