Раджа Кодури присоединился к Sandisk, чтобы увеличить память в ИИ-ускорителях до 4 Тбайт

Раджа Кодури (Raja Koduri), занимавший посты архитектора графических процессоров в компаниях S3, Apple, AMD и Intel, вошёл в технический консультативный совет проекта высокоскоростной флеш-памяти HBF (High-Bandwidth Flash).

Раджа Кодури. Источник изображения: x.com/RajaXg

Sandisk объявила о создании технического консультативного совета для руководства разработкой и стратегией внедрения своей новаторской технологии памяти High Bandwidth Flash с высокой пропускной способностью (HBF). Правление совета включает в себя отраслевых экспертов и старших технических лидеров как внутри, так и за пределами компании. Руководить работой этого органа будут Раджа Кодури и профессор Дэвид Паттерсон.

В феврале этого года Sandisk представила новую разработку в области флеш-памяти — HBF позволит увеличить объёмы видеопамяти на графических процессорах и ускорителях искусственного интеллекта до 4 Тбайт, а в будущих версиях планируется поднять и этот показатель. Идея HBF предполагает вертикальную установку нескольких высокопроизводительных кристаллов флеш-памяти с подключением через сквозные вертикальные межсоединения (Through-Silicon Via — TSV) поверх логического кристалла, который сможет параллельно обращаться к каждому кристаллу памяти в массиве. Это позволит увеличить объём видеопамяти на значение от 8 до 16 раз при сохранении текущей стоимости.

Технология предполагает сборку BiCS 3D NAND в конструкции CMOS Direct Bonded To Array (CBA) — массив памяти 3D NAND устанавливается поверх кристалла ввода-вывода, изготовленного по техпроцессу для логических чипов. Господин Кодури сравнил приоритеты главенствующей сейчас HBM с новой HBF. Для первой важная удельная пропускная способность на ватт и на квадратный миллиметр; во втором случае «основное внимание уделяется значительному увеличению объёма памяти (на доллар, на ватт и на квадратный миллиметр) при обеспечении конкурентоспособной пропускной способности». Технология HBF, уверен эксперт, способна обеспечить прорыв в области как обучения, так и инференса (запуска) моделей ИИ, а также «произвести революцию в области локального ИИ». Сроки вывода HBF на рынок не уточняются.