Компания AMD представила новую флагманскую серию ИИ-ускорителей для дата-центров MI350. В неё входят два продукта: ускорители Instinct MI350 и MI355X. Они основаны на одинаковой архитектуре CDNA 4, однако Instinct MI355X предлагают более высокие тепловые и энергетические характеристики, что по словам главы AMD Лизы Су (Lisa Su), позволяет добиться более высокой производительности.

Источник изображений: AMD

Ускорители серии Instinct MI350 основаны на 3-нм техпроцессе и содержат 185 млрд транзисторов в составе 10 чиплетов. Для производства Instinct MI350 компания использует технологию гибридной склейки. При этом чиплеты Accelerator Compute Die (XCD) в составе этих графических процессоров производятся с использованием техпроцесса N3P компании TSMC, а чиплеты ввода-вывода I/O Die — на базе 6-нм техпроцесса TSMC N6.

В составе Instinct MI350 присутствуют 256 исполнительных блоков, содержащие в общей сложности 16 384 графических ядра, что на самом деле меньше, чем у GPU MI325X, в которых содержатся 19 456 ядер. Архитектура CDNA 4 была обновлена для поддержки новых типов данных FP4 и FP6 для выводов ИИ. Ускорители серии Instinct MI350 предлагают до 288 Гбайт памяти HBM3E с пропускной способностью до 8 Тбайт/с.

AMD сосредоточилась на повышении энергоэффективности своих новых графических процессоров для центров обработки данных. Однако, чтобы соответствовать конкурентам, компания увеличила потребление энергии до 1000 Вт для Instinct MI350X и до 1400 Вт для Instinct MI355X. Ускорители будут выпускаться в формфакторе ODM-модулей.

По словам AMD, ускорители серии Instinct MI350 обеспечат трёхкратный прирост чистой производительности, четырёхкратный прирост производительности в ИИ-задачах по сравнению с предшественниками и 35-кратный прирост в производительности рассуждающего ИИ по сравнению с предыдущим поколением ускорителей Instinct MI300X. Компания также утверждает, что её ускорители серии Instinct MI350 превосходят решения Nvidia в сопоставимых тестах вывода до 1,3 раза и опережают их до 1,13 раза в выборочных рабочих нагрузках обучения. Производство ускорителей серии Instinct MI350 началось в прошлом месяце. Доступными они станут в третьем квартале текущего года.

GRi4nm8ArpHRFH78QJ5Qwc.jpg

Смотреть все изображения (13)

k8rjoSkqQ6cAnD6gFKtY5d.jpg

kpGiZdUJswwM56sKPy2e9n.jpg

MixKpcPQAmFUuS4ZuELVJd.jpg

oQhWuSsC4CsM7meUfmeECd.jpg

R3SsWf7CeJFM8gKsyf5bGn.jpg

ZFQ9sk9PG4aeEpEyXmuNQn.jpg

75QtFurpMF3hndXLuqsM4M.jpg

ivb82n2LHxcYAecmstCHrL.jpg

jxkisykgSBoYvjtj5iBwEM.jpg

REzsACzXZyzTYZHUia2vwL.jpg

vzuExQqud3UARYZc4gu4MM.jpg

xyDHhxuoPwRgfSvfkTnp9M.jpg

Смотреть все
изображения (13)

AMD также анонсировала ускорители Instinct MI400, которые будут использовать архитектуру CDNA-Next (неофициальное название, вероятно, это будет CDNA 5). Их выпуск ожидается в 2026 году. Эти ИИ-ускорители предложат до 432 Гбайт памяти HBM4, что вдвое больше объёма памяти, доступного у Instinct MI355X. Память у Instinct MI400 обеспечит пропускную способность до 19,6 Тбайт/с.

По словам AMD, новые флагманские ускорители Instinct MI400 будут до 10 раз мощнее Instinct MI300. Они также будут до двух раз производительнее Instinct MI355X, получат до 50 % больше памяти и более чем вдвое увеличенную пропускную способность памяти. Если те же Instinct MI355X обеспечивают производительность 10 PFLOPS в операциях FP4, то для Instinct MI400X прогнозируется производительность в 20 PFLOPS в вычислениях FP4.

Ускорители Instinct MI400X также превзойдут по производительности недавно представленные ИИ-ускорители Nvidia Blackwell Ultra. Однако в сравнении с анонсированными ускорителями Nvidia Rubin R200, которые предложат 50 PFLOPS в операциях FP4, новые AMD Instinct MI400X будут в 2,5 раза медленнее. Правда, всех подробностей о Instinct MI400 компания не раскрыла.

В разговоре с порталом Tom’s Hardware старший вице-президент и генеральный менеджер группы вычислительных и графических решений AMD Джек Гуинь (Jack Huynh) сообщил, что компания снова планирует объединить свои графические архитектуры для игровых видеокарт и ускорителей вычислений. Это необходимо для масштабирования и удовлетворения потребностей разработчиков.

Источник изображений: AMD

Ранее сообщилось, что AMD решила сместить акцент с ограниченного сегмента флагманских видеокарт для энтузиастов на расширение присутствия в сегменте массовых моделей GPU. Однако в том же разговоре Гуинь сообщил, что архитектуры RDNA и CDNA в перспективе будут объединены.

В 2020 году AMD сообщила о разделении своих графических архитектур после GCN на RDNA (для игр) и CDNA (для дата-центров). Графическая архитектура CDNA начала использоваться в качестве основы для специализированных ускорителей Radeon Instinct, позже переименованных просто в Instinct. Хотя на тот момент разделение и оптимизация графических архитектур под определённые сценарии казалась оправданной, разработчикам стало сложно ориентироваться в этих оптимизациях. В результате компания решила снова унифицировать архитектуру.

«Часть большого изменения в AMD связана с тем, что сегодня у нас есть архитектура CDNA для ускорителей Instinct для дата-центров и архитектура RDNA для потребительских видеокарт. Они разветвлены. Двигаясь вперёд, мы их объединим в одну с названием UDNA. Это будет унифицированная архитектура, предназначенная как для Instinct, так и для потребительских решений. Благодаря этому объединению мы значительно упростим задачи для разработчиков, которым сегодня приходится выбирать с какой архитектурой работать», — заяви Гуинь.

Благодаря упрощению архитектуры разработчикам необходимо будет сосредоточить своё внимание только на одной системе, независимо от того, работают ли они с большими кластерами графических процессоров или одним игровым GPU.

Компания теперь также будет планировать разработки графических архитектур на три поколения вперёд (RDNA5, UDNA6 и UDNA7) с целью поддержания оптимизаций без необходимости сбрасывать их каждый раз, когда AMD меняет свою иерархию памяти.

AMD официально пока не объявляла о стратегии перехода на унифицированную графическую архитектуру UDNA. Когда это случится — с выходом RDNA 5 или позже — неизвестно. На самом деле, компания пока мало что рассказала и о будущей графической архитектуре RDNA 4, которая, как ожидается, должна стать основной видеокарт Radeon 8000.

Компания AMD представила на выставке Computex 2024 обновлённые планы по выпуску ускорителей вычислений Instinct, а также анонсировала новый флагманский ИИ-ускоритель Instinct MI325X.

Источник изображений: AMD

Ранее компания выпустила ускорители MI300A и MI300X с памятью HBM3, а также несколько их вариаций для определённых регионов. Новый MI325X основан на той же архитектуре CDNA 3 и использует ту же комбинацию из 5- и 6-нм чипов, но тем не менее представляет собой существенное обновление для семейства Instinct. Дело в том, что в данном ускорителе применена более производительная память HBM3e.

Instinct MI325X предложит 288 Гбайт памяти, что на 96 Гбайт больше, чем у MI300X. Что ещё важнее, использование новой памяти HBM3e обеспечило повышение пропускной способности до 6,0 Тбайт/с — на 700 Гбайт/с больше, чем у MI300X с HBM3. AMD отмечает, что переход на новую память обеспечит MI325X в 1,3 раза более высокую производительность инференса (работа уже обученной нейросети) и генерации токенов по сравнению с Nvidia H200.

Компания AMD также предварительно анонсировала ускоритель Instinct MI350X, который будет построен на чипе с новой архитектурой CDNA 4. Переход на эту архитектуру обещает примерно 35-кратный прирост производительности в работе обученной нейросети по сравнению с актуальной CDNA 3.

Для производства ускорителей вычислений MI350X будет использоваться передовой 3-нм техпроцесс. Instinct MI350X тоже получат до 288 Гбайт памяти HBM3e. Для них также заявляется поддержка типов данных FP4/FP6, что принесёт пользу в работе с алгоритмами машинного обучения. Дополнительные детали об Instinct MI350X компания не сообщила, но отметила, что они будут выпускаться в формфакторе Open Accelerator Module (OAM).

Источник изображения: AnandTech

ИИ-ускорители Instinct MI325X начнут продаваться в четвёртом квартале этого года. Выход MI350X ожидается в 2025 году. Кроме того, AMD сообщила, что ускорители вычислений серии MI400 на архитектуре CDNA-Next будут представлены в 2026 году.