Сегодня 20 июля 2024
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Hardware

Intel, Arm и NVIDIA предложили специальный формат чисел для работы с ИИ

Intel, Arm и NVIDIA опубликовали черновик спецификации числового формата FP8 для 8-битных чисел с плавающей точкой. По замыслу компаний этот формат должен стать единым представлением чисел, используемых при решении задач ИИ как при обучении нейросетей, так и при их эксплуатации (инференсе).

 Nvidia

Nvidia

Как считают компании, применение 8-битных вещественных чисел при расчёте весовых коэффициентов в нейронных сетях позволит оптимизировать использование аппаратных вычислительных ресурсов. Такие числа занимают меньше памяти и их проще обрабатывать, что увеличит производительность аппаратных ускорителей при решении задач ИИ.

Традиционными форматами чисел с плавающей точкой, используемыми в настоящее время, являются FP32 (с одинарной точностью) и FP16 (с половинной точностью). При решении задач машинного обучения сейчас преимущественно используется второй формат. Однако, как считают Intel, Arm и NVIDIA, числа в ещё более короткой форме хотя и имеют более низкую точность, вполне применимы в задачах ИИ, при этом их можно обрабатывать быстрее и с меньшими затратами энергии.

Например, в своем блоге директор по маркетингу продукции NVIDIA Шар Нарасимхан (Shar Narasimhan) отмечает, что формат FP8 демонстрирует «сопоставимую точность» с 16-битной точностью в таких областях применения, как компьютерное зрение и системы генерации изображений, обеспечивая при этом «значительное» ускорение.

Формат FP8 будет доступен всем желающим без лицензии, в открытом виде. Позднее спецификации будут представлены на рассмотрение IEEE — в отраслевую стандартизирующую организацию в ряде технических областей. «Мы считаем, что наличие общего формата обмена данными обеспечит быстрый прогресс и совместимость как аппаратных, так и программных платформ для развития вычислительной техники», — сказал Нарасимхан.

Стоит отметить, что поддержка FP8-чисел уже реализована в архитектуре GH100 Hopper компании NVIDIA, а также в ИИ-ускорителях Gaudi2 компании Intel.

Единый формат FP8 принесет пользу не только трём компаниям, предложившим стандарт, но и другим игрокам, предлагающим ускорители для работы с ИИ. Так или иначе все они поддерживают какие-то свои версии чисел с плавающей точкой сокращённой точности, и появление единого открытого стандарта вместо нескольких конкурирующих форматов упростит разработку и аппаратных решений, и программных библиотек.

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Вечерний 3DNews
Каждый будний вечер мы рассылаем сводку новостей без белиберды и рекламы. Две минуты на чтение — и вы в курсе главных событий.
Материалы по теме
Прежде чем оставить комментарий, пожалуйста, ознакомьтесь с правилами комментирования. Оставляя комментарий, вы подтверждаете ваше согласие с данными правилами и осознаете возможную ответственность за их нарушение.
Все комментарии премодерируются.
Комментарии загружаются...

window-new
Soft
Hard
Тренды 🔥
Вчерашний глобальный сбой Windows не затронул Россию 12 мин.
Proton выпустила ИИ-помощника для электронной почты, который работает на компьютере пользователя 37 мин.
С калькулятором точно надёжнее: Бирмингему грозит счёт на £12 млн за ручной аудит финансов после провального внедрения ERP Oracle Fusion 4 ч.
OpenAI повысит безопасность своих ИИ-моделей с помощью «иерархии инструкций» 8 ч.
«Решает проблемы с пугающей скоростью»: новый геймплейный ролик Warhammer 40,000: Space Marine 2 показал в действии разрушительный тяжёлый болтер 14 ч.
Новая статья: Concord — нормально, но не нужно. Предварительный обзор 14 ч.
AMD выпустила драйвер с поддержкой Zenless Zone Zero и Kunitsu-Gami: Path of the Goddess 14 ч.
Глобальный сбой Windows породил волну дезинформации и фейков 15 ч.
Вышел первый трейлер киберпанкового экшена .45 Parabellum Bloodhound, вдохновлённого Parasite Eve — игроки в восторге 15 ч.
«Хотел такой мод с самого релиза игры»: энтузиаст вернул в The Witcher 3: Wild Hunt систему репутации, вырезанную CD Projekt Red 16 ч.
Google пытается вклиниться в партнёрство Meta и Ray-Ban, но едва ли преуспеет 23 мин.
«Тысячелетняя флеш-память» UltraRAM из Великобритании стала на шаг ближе к производству 47 мин.
Samsung приостановила поставки Galaxy Buds 3 Pro из-за проблем с качеством 58 мин.
Sim-Lab представила руль для гоночных симуляторов за $2500 4 ч.
Разработчик очков дополненной реальности Magic Leap сократил 75 сотрудников 6 ч.
Отсутствие прогресса на контрактном направлении вынудило Samsung отложить строительство предприятия в Южной Корее 6 ч.
AMD заявила, что её процессоры Ryzen AI 300 быстрее Apple M3 Pro 12 ч.
Watercool представила огромные радиаторы MO-RA IV для систем жидкостного охлаждения 12 ч.
Не виноватый ИИ: Google заявила, что развитие ИИ-сервисов на самом деле не так уж сильно повлияло на её выбросы углекислого газа 14 ч.
Xiaomi представила флагманский смартфон за $360 — Redmi K70 Extreme Edition с чипом Dimensity 9300+, ёмкой батареей и 144-Гц OLED 18 ч.