Компания Arm анонсировала AGI CPU — свой первый серийный продукт и первый процессор для центров обработки данных собственной разработки. По словам компании, выпуск AGI CPU знаменует собой переход от лицензирования интеллектуальной собственности и вычислительных подсистем к предоставлению готовых микросхем для инфраструктуры ИИ.
Источник изображений: Arm
Процессор AGI ориентирован на то, что Arm называет агентной инфраструктурой ИИ, где такие чипы будут отвечать за оркестрацию, планирование, работу памяти, хранилища и перемещение данных для обработки в составе больших кластеров ускорителей.
Arm заявляет, что процессор AGI построен по 3-нм техпроцессу, содержит до 136 ядер Neoverse V3, работает с TDP 300 Вт и обеспечивает пропускную способность памяти 6 Гбайт/с на ядро при задержке менее 100 нс. Он поддерживает до 6 Тбайт памяти на чип и скорость DDR5-8800. Чип поддерживает 96 линий PCIe Gen 6, а также каналы CXL 3.0 и AMBA CHI (Coherent Hub Interface). Каждое ядро процессора обрабатывает выделенный программный поток, что, по словам Arm, исключает троттлинг и простой потоков при длительной нагрузке.
В сфере центров обработки данных особенно важны показатели плотности размещения. Системы с воздушным охлаждением могут вмещать до 8160 ядер на стойку, в то время как системы с жидкостным охлаждением позволяют разместить более 45 000 ядер. Ожидается, что центрам обработки данных потребуется более чем в четыре раза больше процессорной мощности на гигаватт, чтобы справиться с этой задачей. Arm утверждает, что архитектура x86 слишком сложна и избыточна для этого нового класса рабочих нагрузок. Компания заявляет о более чем двукратном увеличении производительности на стойку по сравнению с x86, добавляя, что это может привести к потенциальной экономии до $10 млрд на гигаватт мощности центров обработки данных для ИИ.
Компания Meta✴ является основным партнёром и соразработчиком AGI CPU. Она будет использовать эти чипы в сочетании со своими ИИ-ускорителями MTIA для крупномасштабной оркестрации ИИ на своих платформах. Помимо Meta✴, подтверждёнными клиентами являются OpenAI, Cloudflare, Cerebras, Rebellions, SAP и SK Telecom. Компании ASRock Rack, Lenovo, Quanta и Supermicro создают системы на основе AGI CPU. Первые образцы таких систем уже доступны, а более широкое распространение ожидается во второй половине года. Экосистема получила широкую поддержку, в ней участвуют более 50 компаний, включая AWS, Google, Microsoft, Nvidia, Samsung, TSMC и Micron.