Сегодня 22 июня 2024
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Hardware

Intel, Arm и NVIDIA предложили специальный формат чисел для работы с ИИ

Intel, Arm и NVIDIA опубликовали черновик спецификации числового формата FP8 для 8-битных чисел с плавающей точкой. По замыслу компаний этот формат должен стать единым представлением чисел, используемых при решении задач ИИ как при обучении нейросетей, так и при их эксплуатации (инференсе).

 Nvidia

Nvidia

Как считают компании, применение 8-битных вещественных чисел при расчёте весовых коэффициентов в нейронных сетях позволит оптимизировать использование аппаратных вычислительных ресурсов. Такие числа занимают меньше памяти и их проще обрабатывать, что увеличит производительность аппаратных ускорителей при решении задач ИИ.

Традиционными форматами чисел с плавающей точкой, используемыми в настоящее время, являются FP32 (с одинарной точностью) и FP16 (с половинной точностью). При решении задач машинного обучения сейчас преимущественно используется второй формат. Однако, как считают Intel, Arm и NVIDIA, числа в ещё более короткой форме хотя и имеют более низкую точность, вполне применимы в задачах ИИ, при этом их можно обрабатывать быстрее и с меньшими затратами энергии.

Например, в своем блоге директор по маркетингу продукции NVIDIA Шар Нарасимхан (Shar Narasimhan) отмечает, что формат FP8 демонстрирует «сопоставимую точность» с 16-битной точностью в таких областях применения, как компьютерное зрение и системы генерации изображений, обеспечивая при этом «значительное» ускорение.

Формат FP8 будет доступен всем желающим без лицензии, в открытом виде. Позднее спецификации будут представлены на рассмотрение IEEE — в отраслевую стандартизирующую организацию в ряде технических областей. «Мы считаем, что наличие общего формата обмена данными обеспечит быстрый прогресс и совместимость как аппаратных, так и программных платформ для развития вычислительной техники», — сказал Нарасимхан.

Стоит отметить, что поддержка FP8-чисел уже реализована в архитектуре GH100 Hopper компании NVIDIA, а также в ИИ-ускорителях Gaudi2 компании Intel.

Единый формат FP8 принесет пользу не только трём компаниям, предложившим стандарт, но и другим игрокам, предлагающим ускорители для работы с ИИ. Так или иначе все они поддерживают какие-то свои версии чисел с плавающей точкой сокращённой точности, и появление единого открытого стандарта вместо нескольких конкурирующих форматов упростит разработку и аппаратных решений, и программных библиотек.

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Вечерний 3DNews
Каждый будний вечер мы рассылаем сводку новостей без белиберды и рекламы. Две минуты на чтение — и вы в курсе главных событий.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
Biwin показала SSD с памятью YMTC и контроллером Maxio для PCIe 5.0 — он обещает быть быстрее SSD на Phison 6 ч.
Samsung случайно упомянула о разработке RISC-V чипа для ИИ-задач 7 ч.
Галлюцинации от радиации: аппаратные сбои могут провоцировать ошибки в работе ИИ-систем 7 ч.
В космос запущена мощная китайско-французская обсерватория слежения за гамма-всплесками 8 ч.
Tesla уволила 14 % работников по всему миру в этом году 8 ч.
«Аквариус» начал производство 1GbE-коммутаторов AQ-N3000, в том числе с поддержкой PoE 9 ч.
Unitree Robotics показала жестокое обращение с робопсами в учебных целях: их пинали, швыряли и били палками 9 ч.
«Нам спешить некуда»: NASA перенесло возвращение корабля Boeing Starliner ещё на неделю 12 ч.
США приближаются к запрету инвестиций в китайское производство чипов и технологии ИИ 14 ч.
Oracle построит в Испании третий облачный регион и инвестирует $1 млрд в течение 10 лет 21 ч.