До 32 768 ядер Zen 6 в одной системе: AMD представила эталонную стойку Helion для автономных ИИ-агентов

Читать в полной версии

Компания AMD внедряет в экосистему ЦОД новое эталонное решение стоечного типа. Helion — это стандартизированный проект 21-дюймовой стойки, дополняющий стойку Helios, которую AMD представила в прошлом году на OCP Global Summit. По словам AMD, новая Helion может вмещать до 32 768 ядер Zen 6 в конфигурации, использующей только центральные процессоры благодаря высокой плотности компоновки 256-ядерных чипов EPYC 9996 Venice.

Источник изображений: AMD

Конструкция стойки Helion стандартизирована и базируется на спецификации ORv4 (Open Compute Project). Она отличается от стандартных стоек увеличенными шириной и высотой. Helion рассчитана на размещение 44 модулей (лотков) формата OpenU шириной 21 мм и высотой 48 мм, что несколько больше параметров стандартного модуля EA1-310. Эталонный проект поддерживает как воздушное охлаждение, так и системы прямого жидкостного отвода тепла.

Конструкция Helion соответствует стандарту OCP DC-MHS (Data Center Modular Hardware System). По данным OCP, стандарт MHS призван обеспечить «совместимость ключевых элементов инфраструктуры центров обработки данных, периферийных вычислений и корпоративных систем».

Хотя AMD подготовила визуализации проекта, сама компания не будет продавать готовые стойки. Это эталонный проект, который AMD передаёт сообществу OCP, а на рынок его выведут OEM- и ODM-производители. Глава AMD Лиза Су (Lisa Su) объявит список партнёров позднее, во время основного доклада на саммите OCP Global Summit. AMD не назвала компании, которые будут заниматься внедрением системы, однако намекнула, что заказчики Helios, вероятно, будут использовать и стойки Helion.

В отличие от Helios, созданной для обучения ИИ и выполнения задач инференса (вывода), Helion представляет собой более гибкое стоечное решение, ориентированное прежде всего на использование центральных процессоров. В конфигурации, использующей только центральные процессоры (CPU), система может вмещать до 128 процессоров EPYC 9996, обеспечивая впечатляющее общее количество ядер — 32 768 на одну стойку. Подобная компоновка, вероятно, будет напоминать «песочницу» для работы ИИ-агентов, подключённую к системе инференса.

Такая модель организации работы персональных ИИ-агентов уже применяется сегодня — например, в проектах Meta✴ Muse и OpenAI Dots. У каждого пользователя есть изолированная среда («песочница»), использующая часть вычислительных ресурсов хост-системы, которая опирается на сервер для выполнения инференса. Часть задач — например, компиляция программного обеспечения — выполняется на этих серверах с CPU, тогда как ресурсоёмкие операции ИИ-инференса происходят на других мощностях.

Предположительно, именно на эту модель ориентируется AMD при разработке системы Helion, учитывая, что гиперскейлеры наращивают вычислительные мощности CPU для поддержки ИИ-агентов. В то же время архитектура решения отличается гибкостью: она поддерживает установку до 16 графических процессоров (GPU) MI350P и обеспечивает пропускную способность сети до 102 Тбит/с, хотя и за счёт сокращения количества центральных процессоров. По заявлению AMD, эта гибридная конфигурация предназначена для корпоративного сектора и представляет собой универсальное решение «всё в одном», объединяющее функции управления данными, сетевого взаимодействия и работы с ИИ.

В соответствии с планами AMD, стойки Helion станут доступны в первой половине 2027 года. Их выпуск, вероятно, совпадёт с периодом активного внедрения процессоров на базе архитектуры Zen 6, массовое развёртывание которых ожидается уже в конце текущего года.