MWC 2018
2018
Computex
IFA 2018
На конференции Future of Memory and Storage 2026 Nvidia объявила о планах открыть исходный код своего API cuFile и программного стека для хранения данных, построенного на его основе. Эти технологии не превратят твердотельные накопители в дополнительную видеопамять, как предположили некоторые источники, но ускорят обмен информацией между хранилищем и памятью и позволят избежать избыточного копирования данных.
Источник изображения: Nvidia
CuFile является частью технологии Nvidia GPUDirect Storage, которая существует уже несколько лет. Она обеспечивает прямой путь между локальным или удалённым хранилищем и памятью GPU. Вместо копирования данных с SSD в системную память перед отправкой их на GPU GPUDirect Storage позволяет совместимым устройствам хранения данных передавать данные непосредственно в память GPU с использованием DMA.
Nvidia решила открыть интерфейс cuFile и создать на его основе независимый от производителя стек хранения данных. В новом проекте xio-sig перечислены четыре компонента: cuFile, cuFileConformance, libxFile и xioLinux. Проект разработан для поддержки реализаций от нескольких производителей оборудования, а не для привязки интерфейса исключительно к существующему стеку Nvidia. Сам код ещё не опубликован — он станет доступен после проверки и интеграции.
Твердотельный накопитель не станет дополнительной видеопамятью. Для обработки данных графическим процессором по-прежнему требуется, чтобы они находились в памяти GPU. Тем не менее cuFile значительно ускоряет перемещение данных между хранилищем и этой памятью и исключает копирование данных через системную память и процессор из обычного пути передачи.
Представленная технология имеет некоторое сходство с Microsoft DirectStorage и Nvidia RTX IO для игр, где ресурсы могут перемещаться с NVMe-хранилища в память GPU с меньшим участием процессора. Однако cuFile — это другая технология, разработанная на основе CUDA и GPUDirect Storage.
Также Nvidia работает над моделью, в которой различие между хранилищем и памятью станет менее заметным для некоторых приложений ИИ. Её архитектура SCADA (Scaled Accelerated Data Access) позволяет потокам GPU инициировать запросы к хранилищу данных и предназначена для наборов данных, превышающих объём локальной памяти. Это может позволить NVMe-хранилищу функционировать как ещё один уровень хранения данных, расположенный рядом с GPU, однако его задержка и пропускная способность по-прежнему отличаются от характеристик памяти HBM или GDDR.
Источник:
