Компании Sandisk и SK hynix объявили о выпуске технической спецификации HBF (High Bandwidth Flash) в рамках инициативы Open Compute Project (OCP). Спецификация направлена на работу систем искусственного интеллекта.
Источник изображения: skhynix.com
Стандарт создавался в рамках рабочей группы по технологии HBF в составе OCP — компании Sandisk и SK hynix выступили в качестве основных участников. В процессе выработки стандартизации к консорциуму в качестве членов присоединились Google и Tensorrent, внеся значительный вклад в проверку технологии и формирование стандарта.
Спецификация задаёт компаниям и разработчикам, которые проектируют системы и ускорители для вывода данных в области ИИ, общую техническую основу для внедрения HBF. Эта технология обеспечивает доступ к большим объёмам быстрой памяти: высокую пропускную способность, улучшенные показатели энергопотребления и производительности при сниженной стоимости владения.
Современные системы инференса ИИ испытывают потребность в высокоскоростной памяти с быстрым доступом вычислительных ядер, есть спрос и на высокую ёмкость — это необходимо для работы больших языковых моделей и новых рабочих нагрузок в области ИИ. Технология HBF призвана удовлетворить эту потребность. Спецификация определяет системный интерфейс, электрические и другие технологические рекомендации по проектированию систем с поддержкой технологии HBF, интерфейс xPU-HBF, рекомендации по надёжности и упаковке стеков HBF, а также руководства по разработке ПО для операций чтения и записи.
Спецификация выпущена в рамках Open Compute Project — информация находится в открытом доступе для всех представителей отрасли. Sandisk и SK hynix опубликовали её, чтобы задать HBF как стандарт на рынке хранения данных для ИИ. Стратегия двух компаний включает в себя развитие экосистемы на ранней стадии, повышение осведомлённости клиентов о внедрении технологии HBF и её применения в рамках открытого сотрудничества и членства в консорциуме.