Сегодня 14 апреля 2025
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Hardware

ИИ-ускорители получат терабайты памяти: SanDisk задумала заменить HBM сверхбыстрой флеш-памятью HBF

SanDisk скоро обретёт независимость от Western Digital, и у неё большие планы на будущее. Компания, в частности, намеревается заняться развитием технологии HBF (High Bandwidth Flash), которая обеспечит ускорители искусственного интеллекта значительно бо́льшим объёмом памяти, чем позволяет применяемая сегодня HBM (High Bandwidth Memory).

 Источник изображений: SanDisk

Источник изображений: SanDisk

Идея может показаться абсурдной, потому что флеш-память NAND традиционно значительно медленнее, чем DRAM, которая лежит в основе HBM. HBF призвана решить эту проблему и стать оптимальным решением при задачах, связанных с запуском уже обученных моделей (инференсом), а не обучением нейросетей. Со сменой поколений HBM увеличивается и доступный объём памяти — сегодня ускорители от AMD и Nvidia предлагают по 192 Гбайт. SanDisk уверяет, что HBF поможет увеличить этот показатель в восемь, а то и в 16 раз при сопоставимой цене.

Компания предлагает два сценария в сравнении с традиционной конфигурацией с восемью стеками HBM общим объёмом 192 Гбайт. Первый вариант — шесть чипов HBF и два HBM. В этом случае общий объём памяти вырастает до 3120 Гбайт или около 3 Тбайт. Во втором сценарии рассматривается полная замена HBM на HBF, что даст ускорителю 4096 Гбайт (4 Тбайт) памяти. В такой объём можно целиком поместить большую языковую модель Frontier с 1,8 трлн параметров и размером 3,6 Тбайт. В приведённых примерах ёмкость одного стека HBM принята за 24 Гбайт, а HBF — 512 Гбайт (более чем в 21 раз выше), потому что у флеш-памяти NAND более высокая плотность.

На схеме HBF кристаллы флеш-памяти NAND устанавливаются друг на друга и размещаются над логическим кристаллом. Стек HBF, как и HBM, устанавливается на интерпозере рядом с графическим, центральным или тензорным процессором в зависимости от того, где требуется память; интерфейс потребует лишь «незначительных изменений протокола». Главное, что HBF, по версии SanDisk, предлагает ту же пропускную способность, что и HBM.

В традиционном варианте NAND действительно приближается к DRAM по пропускной способности, но отчаянно проигрывает по времени доступа. Эту проблему в SanDisk решили специальной архитектурой NAND, поделив компонент на несколько областей с бо́льшим количеством линий данных, что означает ускорение доступа и более высокую производительность.

Архитектуру HBF разработали в компании в прошлом году под «влиянием крупных игроков в области ИИ». Далее будет сформирован технический консультативный совет, в который войдут партнёры компании и лидеры отрасли; затем появится открытый стандарт. В 2019 году японские учёные предложили концепцию HBN (High Bandwidth NAND), и не исключено, что у HBF есть с ней нечто общее. SanDisk тем временем уже подготовила «дорожную карту», в которой описываются новые поколения памяти этого типа — увеличиваться будут и ёмкость, и производительность.

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
Google создала ИИ-модель DolphinGemma для общения с дельфинами 28 мин.
«Вы не можете спланировать фильм такого масштаба по Zoom»: режиссёр «Бордерлендс» объяснил провал экранизации 40 мин.
Начался процесс, который грозит Meta потерей Instagram и WhatsApp, а также многомиллиардными убытками 2 ч.
Google устранила уязвимость в Chrome, существовавшую 23 года 4 ч.
Аудитория ChatGPT приблизилась к миллиарду пользователей благодаря аниме-картинкам 6 ч.
Почти половина любителей мобильных игр играет в них в рабочее время 6 ч.
Сооснователь Troika раскрыл детали вырезанного мультиплеера Vampire: The Masquerade — Bloodlines, который был вдохновлён Counter-Strike 6 ч.
Чистая прибыль «Солар» за 2024 год достигла 1,3 млрд руб. 7 ч.
Начинающие разработчики ИИ-приложений привлекли рекордные $8,2 млрд инвестиций за прошлый год 7 ч.
«Будет явно пушка»: профессиональная русская озвучка Alan Wake 2 от GamesVoice получила новый трейлер и дату выхода 8 ч.
Intel продала контролирующую долю в Altera частной инвестиционной компании Silver Lake 38 мин.
Nvidia запустила выпуск ИИ-чипов «Made in USA» и пообещала развивать американское производство 59 мин.
Неопределённость хуже полного запрета: тарифная политика США вряд ли поможет рынку ЦОД 2 ч.
Samsung представила планшет, который может работать вообще без аккумулятора 2 ч.
Samsung представила Galaxy XCover7 Pro — неубиваемый смартфон со съёмной батареей 2 ч.
Intel продала подразделение FPGA — Altera перешла под контроль Silver Lake за $8,75 млрд 2 ч.
Телекоммуникационные услуги в России подорожали на 12,87 % 2 ч.
А ватты где? Захотевшая стать ИИ-сверхдержавой Великобритания задумалась, где взять энергию для ЦОД 2 ч.
Установлен новый рекорд разгона памяти — DDR5-12772, его поставила память G.Skill 4 ч.
GAC и Didi к концу года запустят производство беспилотных такси четвёртого уровня 6 ч.