Новости Hardware

Intel, Arm и NVIDIA предложили специальный формат чисел для работы с ИИ

Intel, Arm и NVIDIA опубликовали черновик спецификации числового формата FP8 для 8-битных чисел с плавающей точкой. По замыслу компаний этот формат должен стать единым представлением чисел, используемых при решении задач ИИ как при обучении нейросетей, так и при их эксплуатации (инференсе).

 Nvidia

Nvidia

Как считают компании, применение 8-битных вещественных чисел при расчёте весовых коэффициентов в нейронных сетях позволит оптимизировать использование аппаратных вычислительных ресурсов. Такие числа занимают меньше памяти и их проще обрабатывать, что увеличит производительность аппаратных ускорителей при решении задач ИИ.

Традиционными форматами чисел с плавающей точкой, используемыми в настоящее время, являются FP32 (с одинарной точностью) и FP16 (с половинной точностью). При решении задач машинного обучения сейчас преимущественно используется второй формат. Однако, как считают Intel, Arm и NVIDIA, числа в ещё более короткой форме хотя и имеют более низкую точность, вполне применимы в задачах ИИ, при этом их можно обрабатывать быстрее и с меньшими затратами энергии.

Например, в своем блоге директор по маркетингу продукции NVIDIA Шар Нарасимхан (Shar Narasimhan) отмечает, что формат FP8 демонстрирует «сопоставимую точность» с 16-битной точностью в таких областях применения, как компьютерное зрение и системы генерации изображений, обеспечивая при этом «значительное» ускорение.

Формат FP8 будет доступен всем желающим без лицензии, в открытом виде. Позднее спецификации будут представлены на рассмотрение IEEE — в отраслевую стандартизирующую организацию в ряде технических областей. «Мы считаем, что наличие общего формата обмена данными обеспечит быстрый прогресс и совместимость как аппаратных, так и программных платформ для развития вычислительной техники», — сказал Нарасимхан.

Стоит отметить, что поддержка FP8-чисел уже реализована в архитектуре GH100 Hopper компании NVIDIA, а также в ИИ-ускорителях Gaudi2 компании Intel.

Единый формат FP8 принесет пользу не только трём компаниям, предложившим стандарт, но и другим игрокам, предлагающим ускорители для работы с ИИ. Так или иначе все они поддерживают какие-то свои версии чисел с плавающей точкой сокращённой точности, и появление единого открытого стандарта вместо нескольких конкурирующих форматов упростит разработку и аппаратных решений, и программных библиотек.

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме
window-new
Soft
Hard
Тренды 🔥
Минцифры предложило смягчать наказание за утечки персональных данных для компаний, компенсировавших ущерб пострадавшим 58 мин.
Apple объявила лауреатов App Store Awards 2022 — лучшие приложения и игры года 2 ч.
Технологичный онлайновый роглайт-шутер Synced получил новый геймплейный трейлер и сроки открытой «беты» 2 ч.
Microsoft пойдёт на уступки перед Евросоюзом, чтобы получить одобрение на покупку Activision Blizzard 4 ч.
ИИ научили превращать рукописные каракули в программный код 4 ч.
Блейк Норман меняет профессию: средневековая ролевая игра Losted отправит сражаться с демонами из сказок и легенд Белоруссии 4 ч.
Доход от майнинга биткоина достиг двухлетнего минимума 5 ч.
Аудитория симулятора SnowRunner превысила 9 млн игроков 5 ч.
Стартовало открытое бета-тестирование Dr.Web Enterprise Security Suite 13.0.1 6 ч.
Гибрид Red Dead Redemption и Cities: Skylines: ковбойский симулятор жизни Wild West Dynasty выйдет в ранний доступ позже запланированного 6 ч.
Samsung сократила производство смартфонов во Вьетнаме, несмотря на приближение праздничного сезона 13 мин.
Gigabyte добавила платам с Intel Z690 функцию автоматического разгона Raptor Lake до 6 ГГц 36 мин.
Sony представила комплект носимых трекеров Mocopi для передачи движений пользователя в метавселенной 54 мин.
Учёные попытаются найти сверхмассивную чёрную дыру в карликовой галактике недалеко от нас — это перевернёт представления о Вселенной 2 ч.
Продажи VR-гарнитур в этом году упали, но в 2023 резко поднимутся благодаря новинкам Sony и Meta 3 ч.
В Италии запущен суперкомпьютер Leonardo — четвёртая по мощности HPC-система в мире 3 ч.
ASRock Rack представила серверную материнскую плату формата Deep Mini-ITX с сокетом LGA 1700 4 ч.
Amazon Web Services представила Arm-процессор Graviton3E для высокопроизводительных вычислений 4 ч.
Хостинг прямо на орбите: в России создадут крошечный спутник-сервер 4 ч.
Вышел первый в мире умный замок с поддержкой технологии UWB 4 ч.