Память типа HBM3E производства Samsung Electronics чаще всего фигурирует в новостях в контексте неудач с её сертификацией под требования Nvidia, но издание The Chosun Daily на днях заявило, что именно Samsung будет снабжать новейшие ускорители AMD Instinct MI350 памятью типа HBM3E в 12-ярусном исполнении.

В следующем году, когда начнётся выпуск ускорителей AMD Instinct MI400, компания Samsung рассчитывает наладить поставки памяти типа HBM4. По некоторым оценкам, Samsung также может приступить к снабжению своей памятью HBM3E компании Nvidia уже в текущем месяце, хотя некоторые источники подобного оптимизма не разделяют. Они утверждают, что третья попытка Samsung пройти сертификацию своей HBM3E по критериям Nvidia провалилась, и новый шанс будет предоставлен не ранее сентября текущего года.

AMD недавно объявила, что снабжать её ускорители Instinct MI350X и MI355X памятью HBM3E в 12-ярусном исполнении будут компании Samsung Electronics и Micron Technology. Скорее всего, в случае с продукцией Samsung речь идёт о 12-ярусных стеках HBM3E объёмом 36 Гбайт. При их создании компания применила ряд инноваций, которые позволили сохранить общую высоту стека на уровне 8-слойного варианта.

Ускорители AMD Instinct MI400 могут получить до 432 Гбайт памяти типа HBM4, а серверная стойка Helios на их основе увеличит объём памяти до 31 Тбайт, объединяя до 72 ускорителей этой модели. Считается, что основные игроки рынка микросхем памяти в лице Samsung и SK hynix приступят к массовому производству HBM4 до конца текущего года. На соответствующем этапе развития рынка Samsung надеется отыграться за неудачи с HBM3E.

Компания AMD представила новую флагманскую серию ИИ-ускорителей для дата-центров MI350. В неё входят два продукта: ускорители Instinct MI350 и MI355X. Они основаны на одинаковой архитектуре CDNA 4, однако Instinct MI355X предлагают более высокие тепловые и энергетические характеристики, что по словам главы AMD Лизы Су (Lisa Su), позволяет добиться более высокой производительности.

Источник изображений: AMD

Ускорители серии Instinct MI350 основаны на 3-нм техпроцессе и содержат 185 млрд транзисторов в составе 10 чиплетов. Для производства Instinct MI350 компания использует технологию гибридной склейки. При этом чиплеты Accelerator Compute Die (XCD) в составе этих графических процессоров производятся с использованием техпроцесса N3P компании TSMC, а чиплеты ввода-вывода I/O Die — на базе 6-нм техпроцесса TSMC N6.

В составе Instinct MI350 присутствуют 256 исполнительных блоков, содержащие в общей сложности 16 384 графических ядра, что на самом деле меньше, чем у GPU MI325X, в которых содержатся 19 456 ядер. Архитектура CDNA 4 была обновлена для поддержки новых типов данных FP4 и FP6 для выводов ИИ. Ускорители серии Instinct MI350 предлагают до 288 Гбайт памяти HBM3E с пропускной способностью до 8 Тбайт/с.

AMD сосредоточилась на повышении энергоэффективности своих новых графических процессоров для центров обработки данных. Однако, чтобы соответствовать конкурентам, компания увеличила потребление энергии до 1000 Вт для Instinct MI350X и до 1400 Вт для Instinct MI355X. Ускорители будут выпускаться в формфакторе ODM-модулей.

По словам AMD, ускорители серии Instinct MI350 обеспечат трёхкратный прирост чистой производительности, четырёхкратный прирост производительности в ИИ-задачах по сравнению с предшественниками и 35-кратный прирост в производительности рассуждающего ИИ по сравнению с предыдущим поколением ускорителей Instinct MI300X. Компания также утверждает, что её ускорители серии Instinct MI350 превосходят решения Nvidia в сопоставимых тестах вывода до 1,3 раза и опережают их до 1,13 раза в выборочных рабочих нагрузках обучения. Производство ускорителей серии Instinct MI350 началось в прошлом месяце. Доступными они станут в третьем квартале текущего года.

GRi4nm8ArpHRFH78QJ5Qwc.jpg

Смотреть все изображения (13)

k8rjoSkqQ6cAnD6gFKtY5d.jpg

kpGiZdUJswwM56sKPy2e9n.jpg

MixKpcPQAmFUuS4ZuELVJd.jpg

oQhWuSsC4CsM7meUfmeECd.jpg

R3SsWf7CeJFM8gKsyf5bGn.jpg

ZFQ9sk9PG4aeEpEyXmuNQn.jpg

75QtFurpMF3hndXLuqsM4M.jpg

ivb82n2LHxcYAecmstCHrL.jpg

jxkisykgSBoYvjtj5iBwEM.jpg

REzsACzXZyzTYZHUia2vwL.jpg

vzuExQqud3UARYZc4gu4MM.jpg

xyDHhxuoPwRgfSvfkTnp9M.jpg

Смотреть все
изображения (13)

AMD также анонсировала ускорители Instinct MI400, которые будут использовать архитектуру CDNA-Next (неофициальное название, вероятно, это будет CDNA 5). Их выпуск ожидается в 2026 году. Эти ИИ-ускорители предложат до 432 Гбайт памяти HBM4, что вдвое больше объёма памяти, доступного у Instinct MI355X. Память у Instinct MI400 обеспечит пропускную способность до 19,6 Тбайт/с.

По словам AMD, новые флагманские ускорители Instinct MI400 будут до 10 раз мощнее Instinct MI300. Они также будут до двух раз производительнее Instinct MI355X, получат до 50 % больше памяти и более чем вдвое увеличенную пропускную способность памяти. Если те же Instinct MI355X обеспечивают производительность 10 PFLOPS в операциях FP4, то для Instinct MI400X прогнозируется производительность в 20 PFLOPS в вычислениях FP4.

Ускорители Instinct MI400X также превзойдут по производительности недавно представленные ИИ-ускорители Nvidia Blackwell Ultra. Однако в сравнении с анонсированными ускорителями Nvidia Rubin R200, которые предложат 50 PFLOPS в операциях FP4, новые AMD Instinct MI400X будут в 2,5 раза медленнее. Правда, всех подробностей о Instinct MI400 компания не раскрыла.