MWC 2018
2018
Computex
IFA 2018
Один из вариантов будущей революции в мире ускорителей вычислений и искусственного интеллекта сегодня обрёл ясные очертания. Переворот начнётся осенью 2026 года, а взрывное расширение возможностей ИИ последует за ним в 2027 году. Двигателем революции названа компания SanDisk, которая теперь начнёт работать над планами будущей экспансии в тесной кооперации с компанией SK hynix.
Источник изображений: SanDisk
Ломать устоявшиеся правила на рынке ИИ-ускорителей SanDisk намерена с помощью нового типа флеш-памяти — HBF (High Bandwidth Flash). Анонс технологии состоялся в феврале 2025 года. Основная идея заключается в многократном увеличении объёма памяти ускорителей по сравнительно доступной цене.
Не секрет, что плотность записи чипов NAND-флеш растёт кратно быстрее ёмкости чипов DRAM и HBM, как одной из её разновидностей. Этому способствует запись нескольких бит в каждую ячейку и многослойная (стековая) структура NAND. Память HBM пока не производится с подобной архитектурой. Вся её многослойность — это простое нагромождение довольно крупных кристаллов. Поэтому замена в ускорителях памяти HBM на память HBF позволит настолько сильно увеличить бортовую память ИИ-модулей, что в каждый из них можно будет загружать полноценную большую языковую модель, не используя для этого оперативную память, SSD, HDD и шины данных ускорителя.
Также можно ожидать, что переход с оперативной памяти на флеш-память в ИИ-ускорителях позволит снизить энергопотребление соответствующих дата-центров: флеш-памяти не требуется питание для удержания данных и энергия для регенерации ячеек.
В компании SanDisk уже решили, как будут преодолевать главное ограничение флеш-памяти в качестве замены оперативных блоков DRAM — высокие задержки (с пропускной способностью, как раз, всё хорошо). Для этого массив HBF будет разбит на множество небольших областей, что, по сути, будет означать ввод в обиход очень широкой шины данных. Например, шириной 32 768 бит, как предлагает другая компания с такими же революционными амбициями — NEO Semiconductor.
Ранее в качестве примера SanDisk приводила сравнение современного объёма HBM в GPU в случае замены на HBF: это приведёт к 8–16-кратному увеличению объёма бортовой памяти ускорителей при тех же затратах на производство. Например, в случае HBF произойдёт замена каждого стека HBM объёмом 24 Гбайт на стек HBF ёмкостью 512 Гбайт. Таким образом, при полной замене HBM ускоритель сможет нести на борту 4 Тбайт памяти, что позволит полностью загрузить большую языковую модель Frontier с 1,8 трлн параметров размером 3,6 Тбайт.
Партнёрство с SK hynix, о котором компании сообщили вчера, ускорит вывод новой разработки на рынок и позволит распространить её среди разработчиков ИИ-ускорителей. Также в этом помогут авторитетные лидеры в мире IT, в частности, Раджа Кодури (Raja Koduri), который около двух недель назад согласился войти в технический совет по продвижению памяти HBF в отрасли.
По словам SanDisk, первые образцы памяти HBF будут доступны для получения осенью 2026 года, а первые продукты с ней выйдут в начале 2027 года. Это перевернёт мир ИИ-ускорителей, уверены в SanDisk.
Источник:
