Компания NVIDIA сделала себе имя в сегменте высокопроизводительных вычислений преимущественно за счёт ускорителей на базе графических процессоров. Это не мешает ей расширять ассортимент предложений для сегмента суперкомпьютеров за счёт центральных процессоров собственной разработки. Именно на их основе будет построен суперкомпьютер Isambard 3, который может войти в тройку самых энергоэффективных в мире.

Источник изображения: NVIDIA

Правда, как следует оговориться, выборка сделана среди суперкомпьютерных систем, не использующих ускорители вычислений на основе графических процессоров. По словам представителей NVIDIA, собираемый для Бристольского университета при участии Hewlett Packard Enterprise и других партнёров суперкомпьютер будет обходиться всего 270 кВт потребляемой мощности при пиковой производительности вычислений с точностью FP64 на уровне 2,7 Пфлопс. Это сделает его в шесть раз более эффективным по соотношению быстродействия и потребляемой мощности по сравнению с предшественником — Isambard 2. Подобное сочетание характеристик позволит Isambard 3 войти в тройку наиболее энергоэффективных суперкомпьютеров мира, не использующих специализированные ускорители.

Система Isambard 3 будет введена в строй весной следующего года, и позволит учёным Бристольского университета в Великобритании проектировать сложные энергетические установки, анализировать данные метеорологических исследований и заниматься поиском лекарственных средств, которые помогут в борьбе с болезнью Паркинсона, остеопорозом и коронавирусом COVID-19. В основе суперкомпьютера будут лежать 384 центральных процессора NVIDIA Grace с Arm-совместимой архитектурой. Напомним, что данные чипы способны предложить до 144 ядер (на двух кристаллах).

Когда осенью прошлого года американские власти сформулировали ограничения по производительности ускорителей вычислений, поставляемых в Китай, компания NVIDIA достаточно быстро выпустила на местный рынок специальный чип A800, который являлся аналогом полноценного A100, но предусматривал ограничение по скорости передачи информации. Теперь очередь дошла и до архитектуры Hopper — китайским клиентам NVIDIA предложила ускорители H800.

NVIDIA H100 в одном из вариантов исполнения. Источник изображения: NVIDIA

Что именно ограничено на уровне характеристик относительно H100, агентство Reuters не уточняет, но даёт понять, что главным критерием снова стала скорость передачи информации. Осенью были запрещены поставки в Китай ускорителей вычислений NVIDIA, по своей производительности соответствующих A100 и H100, причём в последнем случае сама NVIDIA сохраняет право отгружать их китайским клиентам до сентября текущего года. По всей видимости, это не помешало ей заблаговременно представить адаптированный под новые требования ускоритель H800, у которого ограничена скорость передачи информации.

По словам представителей NVIDIA, ускорители модели H800 уже используются в центрах обработки данных китайских компаний Alibaba Group, Baidu и Tencent Holdings. По данным китайских источников, скорость передачи данных у H800 снижена примерно в два раза относительно полноценного H100. Сотрудники NVIDIA не стали конкретизировать, в чём заключаются отличия, но пояснили, что «семейство продуктов 800 полностью соответствует требованиям правил в области экспортного контроля».

Компания NVIDIA обновила на своём сайте список характеристик ускорителей вычислений H100 на архитектуре Hopper. Компания сообщила более точные данные о производительности этих решений — показатели заметно выросли. Связано это, скорее всего, с повышением тактовых частот графических процессоров.

Источник изображения: NVIDIA

Так у версии NVIDIA H100 SXM производительность в операциях одинарной (FP32) точности поднялась с 60 до 67 Тфлопс, а в операциях двойной (FP64) точности — с 30 до 34 Тфлопс соответственно. В свою очередь PCIe-версия H100 прибавила по тем же пунктам с 24 до 26 Тфлопс и с 48 до 51 Тфлопс. NVIDIA также обновила данные о производительности ускорителей в операциях INT8, FP8, FP16, BFLOT16. Однако здесь показатели немного снизились относительно старых значений.

Как указывает портал VideoCardz, новые данные о производительности ускорителей NVIDIA H100 могут говорить о том, что их графические процессоры получат более высокую тактовую частоту, чем планировалось ранее. Например, в случае версии SXM частота графического чипа с 16 896 ядрами CUDA могла вырасти с 1775 до как минимум 1982 МГц. Поскольку графические процессоры этих ускорителей производятся по техпроцессу TSMC N4 (улучшенные 5 нм) здесь должен оставаться запас для разгона.

Старые (обведено красным) и новые (обведено зелёным) данные о производительности NVIDIA H100

Напомним, что ускорители вычислений NVIDIA H100 предназначены для сегмента центров обработки данных. Они будут выпускаться как в формате карт расширения PCI Express 5.0 с показателем TDP на уровне 350 Вт, так и в форм-факторе SXM5 с заявленным TDP 700 Вт. В рамках конференции GTC 2022 глава компании Дженсен Хуанг (Jensen Huang) подтвердил, что поставки NVIDIA H100, а также рабочих станций NVIDIA DGX на их основе начнутся в первом квартале 2023 года.

Последний день календарного лета принёс китайским и российским клиентам AMD и NVIDIA неприятную новость. Власти США запретили обеим компаниям поставлять в указанные страны ускорители вычислений на базе GPU, соответствующие определённым критериям производительности. В случае с NVIDIA речь идёт об изделиях серий A100 и H100, а компания AMD отнесла к перечню «санкционных» ускорители Instinct MI250.

Источник изображения: AMD

По мнению представителей AMD, как поясняет Reuters, под запрет не попали поставки ускорителей Instinct MI100. При этом в AMD считают, что новые ограничения не окажут существенного влияния на бизнес компании, поскольку торговые обороты на этом направлении не были достаточно велики. Акции NVIDIA на фоне этих новостей потеряли в цене более 6 %, в случае с AMD снижение не превысило 3,8 %. Считается, что за уровень производительности, определяющий необходимость запрета на поставки ускорителя в Китай и Россию, взято быстродействие решения NVIDIA A100 с архитектурой Ampere.

По замыслу американских чиновников, передовые компоненты американского происхождения не должны использоваться китайскими и российскими клиентами для совершенствования военных технологий. Ускорители вычислений AMD и NVIDIA, попавшие под запрет, теоретически могут использоваться в системах распознавания речи для прослушивания переговоров и распознавания военных объектов на снимках местности, получаемых с разведывательных спутников.

Прошлую неделю руководство NVIDIA предпочло начать с заявления о несоответствии реальных показателей выручки во втором квартале ожиданиям рынка, при этом давать публичные комментарии на сопутствующие темы компания отказалась до момента публикации полного отчёта 24 августа. Сторонние аналитики ожидают, что и третий квартал в отчётности NVIDIA не порадует инвесторов, предварительно рассчитывавших на получение компанией выручки в размере $7,4 млрд.

Источник изображения: NVIDIA

По мнению экспертов Bank of America, в третьем фискальном квартале NVIDIA выручит от $6 до $6,5 млрд, и намеченный на этот период анонс новых игровых решений поколения Ada Lovelace ситуацию особо не исправит. Как известно, во втором квартале игровая выручка NVIDIA сократилась последовательно на 44 % до $2,04 млрд, и спровоцированный сочетанием факторов кризис перепроизводства в потребительском сегменте, по мнению авторов аналитической записки, будет хоть и глубоким, но пройдёт достаточно быстро.

Он позволит очистить склады для 5-нм графических процессоров NVIDIA нового поколения — как в игровом, так и в серверном сегментах. В третьем квартале компания на серверном направлении наверняка выручит столько же, как и во втором — около $3,81 млрд, либо чуть меньше, поскольку на динамику продаж продолжает негативно влиять дефицит компонентов. В дальнейшем же спрос на серверные новинки начнёт стимулировать рост выручки NVIDIA в этом сегменте. Во-первых, на рынок выйдут ускорители вычислений поколения Hopper и центральные процессоры Grace. Во-вторых, они будут сочетаться с центральными процессорами Intel Sapphire Rapids и AMD Genoa. Представители Bank of America рекомендуют акции NVIDIA к покупке и прогнозируют рост их курсовой стоимости до $220. Вчерашнюю торговую сессию они завершили на отметке $181,60.

Компания SK hynix сообщила о начале массового производства памяти HBM3. Первыми коммерческими продуктами с её использованием станут серверные ускорители вычислений NVIDIA H100 на графической архитектуре Hopper.

Источник изображения: SK hynix

В SK hynix отмечают, что к массовому производству памяти HBM3 производитель перешёл спустя всего семь месяцев с момента первого официального анонса данного стандарта памяти в октябре прошлого года. Использование памяти HBM3 в коммерческих продуктах позволит значительно увеличить производительность в задачах, связанных с искусственным интеллектом и большими данными.

Компания NVIDIA недавно завершила тестирование образцов памяти SK hynix HBM3. Поставки систем NVIDIA с этим видом памяти начнутся в третьем квартале текущего года. SK hynix увеличит объёмы производства памяти HBM3 в соответствии с запросами NVIDIA.

Память SK hynix HBM3 обеспечивает пропускную способностью до 819 Гбайт/с. Это равносильно передаче 163 фильмов в разрешении 1080p (размер файла 5 Гбайт) каждую секунду.

Поскольку основатель NVIDIA Дженсен Хуанг (Jensen Huang) очень скуп на комментарии по поводу сроков выхода новых продуктов, одним из немногих открытых источников информации этого типа остаются комментарии финансового директора Колетт Кресс (Colette Kress). Сегодня она не подвела ожиданий и в общих чертах дала понять, что до конца года NVIDIA представит в игровом сегменте новую архитектуру.

Источник изображения: NVIDIA

Самое интересное, что первое по ходу квартальной конференции своё замечание на эту тему госпожа Кресс сделала по собственной инициативе, без наводящих вопросов со стороны приглашённых на мероприятие аналитиков. Говоря о перспективах снижения игровой выручки во втором квартале в последовательном сравнении, финансовый директор компании пояснила: «Мы готовимся к переходу на новую архитектуру позже в этом году и ожидаем последовательного снижения игровой выручки во втором квартале».

Как отмечалось в нашем предыдущем материале на эту тему, во втором квартале игровая выручка NVIDIA может последовательно снизиться на 10‒20 % в последовательном сравнении, но в годовом всё равно будет наблюдаться рост. Немалое влияние на такую динамику окажут локдауны в Китае и события на территории Украины, но данные факторы заслуживают более подробного обсуждения в отдельной публикации.

При этом Колетт Кресс подчёркивает, что Ampere является великолепной архитектурой, которая продолжит пользоваться высоким спросом. Семейство видеокарт GeForce RTX 30 демонстрирует лучшую динамику продаж на протяжении всего своего жизненного цикла с момента анонса осенью 2020 года. Платформа ПК смогла привлечь около 100 млн новых геймеров за последние два года, по данным Newzoo. Количество игр с поддержкой RTX за год выросло в два раза до 250 наименований, а доля имеющих доступ к этой технологии владельцев GeForce сейчас уже приближается к одной трети, по оценкам самой NVIDIA.

Основные процессы, связанные с миграцией на новые графические архитектуры, для NVIDIA будут протекать во втором полугодии, как пояснила Колетт Кресс. Это следует понимать применительно как к игровому, так и серверному сегменту. Например, тот же Hopper в серверном сегменте появится уже в третьем квартале, но наращивание поставок носителей этой архитектуры начнётся лишь ближе к концу календарного года. «Основная часть запусков новых продуктов будет сопровождаться масштабированием поставок во второй половине года», — добавила Колетт Кресс.

Серверный графический ускоритель ИИ-вычислений NVIDIA H100 на архитектуре Hopper отметился в базе данных японского ретейлера GDEP Advance, сообщает издание Hermitage Akihabara. Новинка оценивается в 4 745 950 йен (около $36 550). Без учёта налогов и стоимости доставки его цена составляет около $33 200.

Источник изображений: NVIDIA

Компания NVIDIA официально ещё не заявляла рекомендованные цены на свои серверные ускорители H100, представленные в марте этого года на конференции GTC 2022. Отметившаяся у японского ретейлера модификация представлена в виде карты расширения PCIe и оснащается пассивной системой охлаждения.

Источник изображения: GDEP Advance

NVIDIA сообщила, что новые ускорители H100 станут доступны до начала второй половины текущего года. Эти решения для дата-центров содержат 80 млрд транзисторов и производятся по техпроцессу TSMC N4 (улучшенные 5 нм). Площадь процессора в его основе составляет 814 мм².

Версия ускорителя в виде карты расширения PCIe 5.0 получила 80 Гбайт памяти стандарта HBM2e с пропускной способностью на уровне 2 Тбайт/с. Показатель энергопотребления данной версии составляет 350 Вт.

Помимо PCIe-версии, компания также будут выпускать H100 в форм-факторе SXM5 с заявленным TDP 700 Вт и памятью HBM3. Примечательно, что PCIe-версия использует менее мощный чип с 14 592 ядрами CUDA. Модель в формате SXM5 будет построена на чипе с 16 896 ядрами.

В ходе мероприятия GTC 2022 компания NVIDIA анонсировала новую графическую архитектуру Hopper и первые продукты на её базе — ускорители вычислений H100. Их чипы с порядка 80 млрд транзисторов и производятся по техпроцессу TSMC N4 (улучшенные 5 нм).

Источник изображений: NVIDIA

Компания заявляет о трёхкратном увеличении производительности в операциях FP64, TF32, FP16 и шестикратном росте быстродействия в операциях FP8 у H100 по сравнению с NVIDIA A100.

В состав H100 также входят 80 Гбайт памяти HBM3 с пропускной способностью 3 Тбайт/с, что в 1,5 раза больше в сравнении с актуальным ИИ-ускорителем NVIDIA A100.

Ключевыми особенностями ускорителей NVIDIA H100 являются новый движок Transformer Engine, поддержка специальных DPX-инструкций для динамического программирования, второе поколение технологии виртуализации Multi-Instance GPU, поддержка 4-го поколения шины NVLink со скоростью передачи данных 900 Гбайт/с и новый коммутатор NVSwitch, который позволяет напрямую объединить между собой до 256 ускорителей. Обо всех этих нововведениях можно более подробно ознакомиться в статье наших коллег из ServerNews.

Ускорители вычислений NVIDIA H100 будут выпускаться как в формате карт расширения PCI Express 5.0 с показателем TDP на уровне 350 Вт, так и в форм-факторе SXM5 с заявленным TDP 700 Вт, что на 300 Вт больше, чем у A100. При этом PCIe-версия получит менее мощный чип с 14 592 ядрами CUDA. Модель в формате SXM5 будет построена на чипе с 16 896 ядрами.

Компания сообщает, что первыми продуктами на базе ускорителей H100 станет четвёртое поколение систем DGX — DGX H100, которые смогут обеспечивать до 32 Пфлопс производительности в вычислениях ИИ в операциях FP8. Партнёры предложат HGX-платформы на 4 или 8 ускорителей. Наличие четвёртого поколения шины NVLink Switch позволит объединять в сети до 32 систем DGX H100, образуя на их основе суперкомпьютеры NVIDIA DGX SuperPOD нового поколения. Сама NVIDIA сейчас занимается созданием суперкомпьютера EOS, который будет состоять из 576 систем DGX H100 и получит FP64-производительность на уровне 275 Пфлопс, а FP16 — 9 Эфлопс.

Новой архитектурой Hopper уже заинтересовались ведущие провайдеры облачных сервисов, такие как Alibaba Cloud, Amazon Web Services, Baidu AI Cloud, Google Cloud, Microsoft Azure, Oracle Cloud и Tencent Cloud, которые планируют использовать в своих экосистемах решения на базе ускорителей NVIDIA H100.

Глава компании NVIDIA Дженсен Хуанг (Jensen Huang) сегодня вечером (18:00 мск) в рамках конференции GTC 2022 представит ряд новых продуктов для серверов и дата-центров. Звездой программы должен стать новый ускоритель вычислений NVIDIA H100 на базе огромного графического процессора GH100 с архитектурой Hopper. Портал VideoCardz поделился фотографией новинки в исполнении SXM.

Источник изображений: VideoCardz

На изображении демонстрируется ускоритель с чипом GH100 в окружении шести стеков памяти типа HBM. По данным источника, GH100 состоит из шести вычислительных графических кластеров (GPC), в составе которых присутствуют 144 блоков потоковых мультипроцессоров. Один из блоков GPC отличается от остальных, поскольку он также содержит графический движок.

Компания NVIDIA собирается выпустить несколько продуктов на базе GH100. Исполнение SXM говорит о том, что решение предназначено для серверного сегмента.

В ходе презентации также ожидается анонс ускорителя в виде карты расширения PCI Express, новой рабочей станции DGX H100 и нового суперкомпьютера DGX H100 SuperPod.

Заранее было известно, что основатель и бессменный лидер компании NVIDIA Дженсен Хуанг (Jensen Huang) на открытии конференции GTC 2022 в ближайший вторник расскажет о новых продуктах, но самым долгожданным из них стала бы архитектура Hopper для ускорителей вычислений. В своём приглашении к прямой трансляции компания играет словами, намекая на такую возможность.

Источник изображения: NVIDIA

Выражение «Hopped Up» вынесено в заголовок записи блога на страницах сайта NVIDIA, которая приглашает всех интересующихся тематикой присоединиться к прямой трансляции выступления Дженсена Хуанга в 18-00 по московскому времени 22 марта этого года, в ближайший вторник. Анонс новых технологий и продуктов внесён в повестку дня выступления, но наиболее красноречивым остаётся именно начинающийся со слов «hopped up» заголовок. Хотя лексически он всего лишь означает «подпрыгнул», фонетически созвучен с обозначением архитектуры Hopper.

Другими важными темами презентации, как считают аналитики Citi, станут новости из сферы метавселенной, подробности сотрудничества NVIDIA с китайскими автопроизводителями, а также возможное объявление о частичном выкупе акций компании. Дело в том, что в рамках подготовки к сделке по поглощению Arm несостоявшийся покупатель к концу января накопил на счетах более $21 млрд, из которых $5 млрд были заёмными, и теперь часть свободных средств можно потратить на возврат капитала инвесторам. При нынешнем курсе ниже $265 ценные бумаги NVIDIA, как считают эксперты Сiti, имеют возможность подорожать до $350 за штуку.

Компания NVIDIA оказалась ответчиком в юридическом споре за торговую марку Hopper. Истцом выступает компания Dish Network — американский телевизионный провайдер и владелец спутникового провайдера Dish. Последний использует название Hopper для своих фирменных цифровых видеорекордеров и спутниковых приёмников.

Источник изображения: NVIDIA

Борьба за торговую марку Hopper фактически подтверждает более ранние слухи о том, что NVIDIA собирается использовать это название для нового поколения графических ускорителей корпоративного уровня, анонс которых ожидается в этом году. И хотя между видеокартами и спутниковым оборудованием нет ничего общего, истец считает, что новая торговая марка NVIDIA может ввести в заблуждение потенциальных клиентов Dish, которая использует для своих продуктов такие названия, как Hopper, Hopper Go, Hopper Duo, Hopper Plus и некоторые другие варианты.

Спор между двумя компаниями начался 23 апреля 2021 года, с подачи жалобы Dish Network LLC в Ведомство по патентам и товарным знакам США (USPTO). Как стало известно, заявка на регистрацию торговой марки Hopper компанией NVIDIA охватывает разные сферы применения, начиная от GPU, различных программных продуктов и облачных вычислительных сервисов и заканчивая устройствами, оборудованными ЖК-экранами.

Источник изображения: USPTO

Обе компании вели переговоры о досудебном урегулировании претензии с мая 2021 года. Последние переговоры по этому поводу проводились 23 декабря 2021, когда предлагалось приостановить разбирательство по делу на 60 дней для дальнейшего обсуждения вопроса. Если к 22 февраля текущего года компании не придут к общему соглашению, то судебное разбирательство должно автоматически возобновиться.

С учётом слухов о том, что NVIDIA планирует выпустить ускорители Hopper в этом году, скорее всего, компании смогут договориться до их официального анонса. Если верить тем же слухам, графические процессоры серии Hopper будут производиться с использованием 5-нм техпроцесса TSMC и использовать многочиповую (MCM) компоновку.