Облачное подразделение Amazon Web Services (AWS) анонсировало ряд новинок: оптимизированный для высокопроизводительных вычислений (HPC) фирменный Arm-процессор Graviton3E, обновлённый гипервизор Nitro, способный обрабатывать больше трафика, а также предназначенный для его работы сетевой протокол.
Источник изображений: techcrunch.com
Новый процессор получил название Graviton3E — он оптимизирован для операций над числами с плавающей точкой и векторных вычислений, то есть наиболее востребованных операций в мире высокопроизводительных вычислений. Компания пока не уточнила технические характеристики чипа, но отметила, что в тестах, отражающих работу для медико-биологических и финансовых дисциплин, он проявляет себя лучше базового Graviton3.
Рабочие нагрузки HPC традиционно связаны с передачей больших объёмов данных, и для оптимизации этого процесса компания анонсировала сетевой интерфейс EFA (Elastic Fabric Adapter). Дополнением к нему стал сетевой протокол SRD (Scalable Reliable Datagram), представляющий собой альтернативу TCP. Во внутренней инфраструктуре AWS используется многопутевая маршрутизация, которая не поддерживается TCP в базовом исполнении, и это сказывается на производительности. Задачу решает SRD, позволяющий передавать пакеты не по порядку и упорядочивать их по принятии — при этом потерянные пакеты передаются за «микро-, а не миллисекунды», уточнили в компании, и это ускоряет работу сетей в облачной инфраструктуре AWS.
Компания также анонсировала обновлённую версию гипервизора Nitro (пятого поколения) с поддержкой SRD, предлагающего почти удвоенную вычислительную мощность: на 50 % выросла пропускная способность DRAM, в два раза увеличилась пропускная способность PCIe, на 60 % выросло число передаваемых пакетов в секунду, а задержка сократилась на 30 %. AWS анонсировала инстансы типа C7GN с Graviton3 и Nitro v5, а также HPC7G с Graviton3E и Nitro v5.
Наконец, в компании рассказали об улучшениях в работе бессерверной среды AWS Lambda — она строится на малых виртуальных машинах, занимающих «слоты» на хосте. Провайдер всегда старается поддерживать работу этих машин как можно дольше, потому что их «холодный запуск» занимает достаточно много времени, и это способно отпугнуть пользователя. Для достижения баланса AWS разработала технологию SnapStart, которая делает снимок Lambda-функции и кеширует её. При последующем вызове функции Lambda SnapStart возобновляет среду исполнения сразу из кешированного снимка, а не инициализирует её с нуля, что позволяет снижать задержку при запуске.