Сегодня 28 февраля 2024
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Hardware

AMD представила мощнейший ИИ-ускоритель Instinct MI300X и гибридный HPC-процессор Instinct MI300A

Компания AMD в рамках мероприятия Advance AI официально представила специализированный ускоритель вычислений Instinct MI300X, предназначенный для работы с огромными объемами данных для генеративного ИИ и высокопроизводительных вычислительных нагрузок. Это самый мощный ускоритель вычислений в арсенале AMD.

 Источник изображений: AMD

Источник изображений: AMD

В основе Instinct MI300X используется архитектура CDNA 3 и чиплетная компоновка с использованием кристаллов, выполненных по 5- и 6-нм техпроцессам. Для сборки чипов применяется продвинутая 3D-упаковка и TSV-монтаж. Базовый слой чипа представлен четырьмя кристаллами I/O Die с поддержкой 128-канального интерфейса памяти HBM3, 256 Мбайт кеш-памяти Infinity Cache, поддержкой 64 линий PCIe 5.0 и 64 линий PCIe 4.0.

Поверх кристаллов I/O Die установлены восемь кристаллов XCD, в каждом из которых содержится по 38 исполнительных блоков на архитектуре CDNA 3, что в сумме даёт 304 блока. Ускоритель оснащён 192 Гбайт памяти HBM3 с пропускной способностью в 5,3 Тбайт/с. Для объединения MI300X в кластеры предусмотрена поддержка шины Infinity Fabric четвёртого поколения. В целом в составе MI300X присутствуют 153 млрд транзисторов.

AMD сравнивает MI300X с ИИ-ускорителями NVIDIA H100. Последний имеет 80 Гбайт HBM3 со скоростью 3,35 Тбайт/с. AMD заявляет, что MI300X обеспечивает паритет в задачах обучения ИИ, но в 1,6 раза превосходит конкурента в инференс-задачах (работе уже обученных систем ИИ). Например, AMD обещает увеличение скорости работы большой языковой модели Llama 2 с 70 млрд параметров в 1,4 раза, по сравнению с H100, а в работе модели Bloom с 176 млрд параметров MI300X обеспечит пропускную способность в 1,6 раза выше.

Instinct MI300X можно будет объединять в системы из восьми ускорителей на одной плате. Такая платформа сможет конкурировать с системой NVIDIA H100 HGX, и при этом обеспечит более высокую производительность и значительно большой объём памяти, а последнее весьма важно для задач ИИ.

Компания AMD называет Instinct MI300X самыми мощными ускорителями ИИ-вычислений. Платформа AMD из восьми MI300X обеспечивает производительность в 10,4 Пфлопс в операциях FP16 / BF16. Для сравнения, HGX-платформа из NVIDIA H100 в тех же задачах обеспечивает производительность в 7,9 Пфлопс. А объём памяти HBM3 у решения AMD в 2,4 раза больше, чем у платформы конкурента.

AMD также представила новую программную платформу ROCm 6, оптимизированную для работы с ускорителями серии Instinct MI300. По словам компании, новое программное обеспечение улучшает работу ускорителей вычислений со специализированными библиотеками больших языковых моделей в 2,6 раза, а также привносит другие оптимизации, которые, в общем и целом, обеспечивают для MI300X в 8 раз более высокую производительность по сравнению с ускорителями MI250X, работающими с программной платформой ROCm 5.

Вместе с Instinct MI300X компания AMD представила специализированные гибридные процессоры MI300A для дата-центров и высокопроизводительных вычислений (HPC). Фактически, это серверный гибридный процессор, объединяющий на одной подложке CPU и мощный ускоритель вычислений.

В целом их структура очень похожа на компоновку MI300X, однако в MI300A используется только шесть блоков XCD на архитектуре CDNA 3. В них содержатся 146 млрд транзисторов. Ещё три чиплета в MI300A представлено вычислительными кристаллами CCD, в каждом из которых содержатся по восемь процессорных ядер Zen 4. То есть всего здесь имеется 24 ядра, которые работают на 48 потоков. Специализированные APU MI300A получили 128 Гбайт набортной памяти HBM3 с пропускной способностью 5,3 Тбайт/с.

Компания AMD заявляет для Instinct MI300A производительность в 61 Тфлопс в операциях FP64 и 122 Тфлопс в операциях FP32. Также отмечается, что новинка обеспечивает вдвое более высокую производительность в расчёте на ватт потребляемой энергии, чем конкурирующее решение NVIDIA Grace Hopper. Последнее, напомним, сочетает в себе ускоритель NVIDIA и центральный процессор на базе Arm.

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Вечерний 3DNews
Каждый будний вечер мы рассылаем сводку новостей без белиберды и рекламы. Две минуты на чтение — и вы в курсе главных событий.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
ИИ-модели Mistral AI появятся на платформе Microsoft Azure 3 мин.
По мотивам «Паранормального явления» выйдет жуткий хоррор от разработчика The Mortuary Assistant — первый тизер Paranormal Activity: Found Footage 46 мин.
GitHub Copilot Enterprise стал доступен всем желающим за $39 в месяц 2 ч.
Microsoft выпустила битое обновление Windows 11, но предложила временное решение и пообещала исправиться 2 ч.
Создатели солнечного Souls-экшена Enotria: The Last Song отказались от «самоубийственного» релиза в один день с Elden Ring: Shadow of the Erdtree 2 ч.
Будущие обновления Windows 11 потребуют SSE4.2 — процессоры для LGA 775 и Socket AM2/AM3 останутся за бортом 2 ч.
Возвращение к корням, аналог Call of Duty: Warzone и релиз в 2025 году: инсайдер раскрыл новые детали следующей Battlefield 3 ч.
Google объяснила, как Wear OS 4 значительно повышает время автономной работы смарт-часов 8 ч.
Еженедельный чарт Steam: новинки заняли почти половину топ-10, а Elden Ring вернулась в тройку лидеров после открытия предзаказа DLC 14 ч.
ВТБ переведёт десятки тысяч рабочих мест на отечественную ОС Astra Linux 15 ч.
От отмены сделки между NVIDIA и Arm выиграли все, объяснил американский регулятор 41 мин.
Maibenben P429 — лёгкий и компактный ноутбук с мощным процессором 47 мин.
В Китае беспилотное аэротакси впервые совершило междугородний перелёт 2 ч.
Специалисты из автомобильной команды Apple займутся будущими ОС, ИИ-приложениями и развитием Vision Pro 2 ч.
Смартфон Vivo V30 Pro получил чип Dimensity 8200 и систему камер, созданную вместе с Zeiss 2 ч.
Из памяти «Одиссея» извлекли три чётких фото поверхности Луны — их назвали лучшими в истории 3 ч.
Honda представила первый водородный кроссовер, который можно подзарядить от электросети 4 ч.
Суперкомпьютер «Оракул» на базе НГУ победил в конкурсе «Проект года» 4 ч.
Intel представила мобильные процессоры Core Ultra vPro и настольные Raptor Lake Refresh vPro для бизнеса 6 ч.
Глава Honor сообщил, что компания тоже ведёт разработку умного кольца 7 ч.