Подразделение AWS американского интернет-гиганта Amazon давно входит в число крупнейших игроков рынка облачных услуг. Оно сильно зависит от компонентов и программного обеспечения Nvidia, но параллельно развивает и собственную инфраструктуру, используя наработки компании Annapurna Labs, купленной в 2015 году за $350 млн.

Источник изображения: Amazon

В следующем месяце, как сообщает Financial Times, компания должна продемонстрировать публике ускорители Trainium 2, которые способны справляться с обучением больших языковых моделей. Образцы этих ускорителей уже эксплуатируются стартапом Anthropic, в капитал которого Amazon вложила $4 млрд. Клиентами Amazon на этом направлении также являются компании Databricks, Deutsche Telekom, Ricoh и Stockmark.

Вице-президент AWS по вычислительным и сетевым сервисам Дейв Браун (Dave Brown) заявил следующее: «Мы хотим быть абсолютно лучшим местом для эксплуатации Nvidia, но в то же время мы считаем нормой возможность иметь альтернативу». Уже сейчас ускорители семейства Inferentia обходятся при генерировании ответов ИИ-моделей на 40 % дешевле решений Nvidia. Когда речь идёт о расходах в десятки миллионов долларов, подобная экономия может иметь решающее значение при выборе вычислительной платформы.

По итогам текущего года капитальные расходы Amazon могут достичь $75 млрд, а в следующем окажутся ещё выше. В прошлом году они ограничились $48,4 млрд, и величина прироста показывает, насколько важным компания считает финансирование своей инфраструктуры в условиях бурного развития рынка систем ИИ. Эксперты Futurum Group поясняют, что крупные провайдеры облачных услуг стремятся формировать собственную вертикально интегрированную и однородную по своему составу структуру используемых чипов. Большинство из них стремится разрабатывать собственные чипы для ускорителей вычислений, это позволяет снизить расходы, поднять прибыль, усилить контроль за доступностью чипов и развитием бизнеса в целом. «Дело не столько в чипе, сколько в системе в целом», — поясняет Рами Синно (Rami Sinno), директор Annapurna Labs по разработкам. По его словам, мало кто из компаний может повторить в больших масштабах то, что делает Amazon.

Чипы собственной разработки позволяют Amazon потреблять меньше электроэнергии и повышать КПД собственных центров обработки данных. Представители TechInsights сравнивают чипы Nvidia с автомобилями с кузовом типа «универсал», тогда как решения Amazon собственной разработки напоминают более компактные хэтчбеки, заточенные под выполнение узкого спектра задач. Amazon не спешит делиться данными о тестировании быстродействия своих ускорителей, но чипы Trainium 2 должны по уровню быстродействия превзойти своих предшественников в четыре раза, по имеющимся данным. Само по себе появление альтернатив решениям Nvidia уже может быть высоко оценено клиентами AWS.

Российский производитель электроники Fplus заявил, что в 2025 году наладит выпуск серверов с отечественными ИИ-ускорителями, созданными в НТЦ «Модуль». В первый год будет выпущено около сотни таких систем, а в 2026–2027 гг. счёт пойдёт на тысячи. На серверах Fplus с ускорителями «Модуля» можно будет запускать алгоритмы искусственного интеллекта, системы обработки сигналов и изображений, но для обучения ИИ они не подойдут, пишут «Ведомости».

Источник изображения: kp yamu Jayanath / pixabay.com

Серверы Fplus получат «большие» и «малые» ускорители, в зависимости от конфигурации: NM Quad и NM Card соответственно. Первый построен на DSP-процессоре К1879ВМ8Я, который включает 64 тензорных ядра NeuroMatrixCore4 (FP32/64, 1000 МГц) и 20 ядер ARM Cortex-A5 (800 МГц), а также имеет 20 Гбайт памяти DDR3L. В свою очередь, NM Card предлагает чип К1879ВМ8Я с 16 тензорными ядрами NMC4 (FP32/64, 1000 МГц) и пять ядер ARM Cortex-A5 (800 МГц), а также 5 Гбайт памяти DDR3L. В России производится поверхностный монтаж этих ускорителей — штатная загрузка предприятия позволяет выпускать 35 000 ускорителей в год.

Сервер Fplus «Восход» с ускорителями вычислений НТЦ «Модуль» уже включён в реестр отечественного оборудования Минпромторга. «Мы видим большую потребность в таких комплексных продуктах для распознавания изображений, объектов и инцидентов, цифровой обработки сигналов и изображений для критической информационной инфраструктуры, где не должно использоваться оборудование западного производства, а также для работы с большими объёмами секретных или персональных данных, где важна не скорость, а защищённая среда», — рассказал о проекте управляющий партнёр Fplus Алексей Мельников.

Фактическим мировым монополистом в сегменте чипов для ИИ является американская Nvidia, которая строго соблюдает санкционный режим, поэтому в Россию её продукция официально не поставляется, и это значительно сдерживает развитие отечественного производства серверов. Но российский рынок активно адаптируется к переменам — прорабатываются альтернативные решения, находятся новые пути поставок. Пока в реестре Минпромторга значится лишь один ИИ-сервер с поддержкой до пяти ускорителей, а его производителем значится «Гравитон»; сейчас компания разрабатывает несколько решений на базе центральных процессоров Intel и AMD нового поколения — в будущем году она готова поставить до 10 000 ИИ-серверов.

Источник изображения: Pete Linforth / pixabay.com

На рынке реестровой техники для госзаказчиков запросы на серверы с ИИ выросли двукратно: с января по сентябрь 2023 года было 16 таких закупок на 930 млн руб., а за аналогичный период этого года их было уже 30 на 1,7 млрд руб. В количественном выражении доля российских производителей на рынке серверов составляет не более 25 %, подсчитали в «Гравитоне». Модульный ИИ-сервер с возможностью установить до шести средних или двух мощных ускорителей есть и у Kraftway; компания также разрабатывает выделенный сервер на три высокопроизводительные карты — он сможет устанавливаться в ЦОД и использоваться для обучения больших языковых моделей.

Система Fplus на ускорителях «Модуля» сможет применяться в критических системах, где законодательство требует устанавливать отечественные компоненты, но заменить решения на чипах Nvidia она не сможет, потому что не поддерживает обучения ИИ, отмечают опрошенные «Ведомостями» эксперты. Но решения «Модуля» могут оказаться конкурентоспособными в нишевых задачах, таких как обработка изображений и сигналов.

К 2027 году ИИ-серверов в мире станет больше, чем обычных, говорят аналитики — к этому моменту рынок ИИ-серверов разрастётся до $95 млрд. В этом году рынок российских высокопроизводительных серверов (способных содержать ИИ-ускорители) оценивается в 30 млрд руб.; к 2027 году он составит 45,2 млрд руб. Через десять лет отечественный рынок ИИ-ускорителей вырастет трёхкратно. Пока же 80 % мирового рынка ИИ-ускорителей для ЦОД принадлежат Nvidia. Но её монополии уже бросили вызов Microsoft, OpenAI, Amazon и Google, которые разрабатывают собственные системы. Да и AMD не дремлет.

Сможете за минуту вспомнить 50 мемов с котами? А может, вы любитель Kung Fury и пересматриваете его под попкорн пару раз в год? Даже если нет, окунуться в атмосферу 80-х можно с помощью акции в честь Дня программистов от хостинг-провайдера FirstVDS.

В качестве подарка FirstVDS подготовили растущую скидку: чем больше период оплаты сервера, тем больше скидка на новые VDS.

• Скидка 20 % при заказе сервера на 1 месяц.
• Скидка 25 % при заказе сервера на 3 месяца.
• Скидка 30 % при заказе сервера на 6 месяцев.
• Скидка 35 % при заказе сервера на 12 месяцев.

Но это не всё! Для настоящих программистов FirstVDS добавили рецепт GitLab.

GitLab — это платформа для управления и хранения исходных кодов проектов с возможностью совместной работы над ними. Решение можно установить на новый или уже действующий сервер.

А главная изюминка акции — спасение кото-мемов от Хакермена!

За спасение котиков в интернете можно получить призы: микрокомпьютер Raspberry Pi 5 8 Гбайт, клавиатура Nuphy Field75 Electro Cherry Speed Silver Switch и кресло игровое ZONE 51. А также лимитированный мерч от FirstVDS и сертификаты на баланс до 1000 рублей.

Но всё не так просто, за призы придётся побороться — пройти квиз «Настоящий программист», а также решить каверзные загадки Хакермена.

Акция продлится до 23 сентября 2024 года. Остановить Хакермена и спасти котиков можно здесь.

Российский производитель вычислительной техники «Гравитон» представил новую серию устройств «Автор», выполненную в премиальном дизайне, который был разработан с использованием ИИ-технологий. В неё вошли ноутбуки, ПК, моноблоки, мониторы, клавиатура и мышь, а также МФУ и сервер.

Это первая на российском ИТ-рынке линейка устройств со специально разработанным дизайном, выполненным с применением технологий ИИ. Стоимость проекта составила 70 млн рублей.

«Гравитон» отметила в пресс-релизе, что для её разработчиков в приоритете не только функциональность устройств, но и эстетика. Новая серия устройств «Автор», включающая компьютеры, периферию, печатное устройство и сервер, отличается уникальным дизайном с проработанной эргономикой и премиальным исполнением.

Новая серия «Автор» ориентирована на заказчиков, которые наряду с высокой производительностью и функциональностью ценят эстетику. При этом эксклюзивный дизайн не отразится на стоимости устройств, поскольку продукция предназначена для регулируемого рынка.

Как сообщает компания, разработка дизайна серии «Автор» заняла 11 месяцев. После создания концептов устройств наступила очередь нейросети, которая использовалась для анализа и сравнения элементов дизайна различных существующих устройств с концептами, а также поиска новых, оригинальных идей. Затем уникальные концепты исследовали на эргономичность. Также они прошли валидацию у инженеров с точки зрения возможностей их производства.

Первая партия устройств серии «Автор» поступит на склад компании в декабре 2024 года. В начале следующего года линейку дополнят ноутбуки. Все устройства новой линейки будут включены в реестр российской промышленной продукции Минпромторга России.

Презентация новой серии «Автор» состоялась на ежегодной конференции «Точка притяжения» компании «Гравитон», которая прошла 3 и 4 сентября в Москве. Так что заказчики и партнёры компании первыми увидели новинки.

На этой неделе о результатах фискального квартала отчиталась компания Dell, которая продолжает оставаться крупным игроком как на рынке серверных систем, так и в сегменте ПК. Совокупная выручка компании выросла на 9 % до $25,06 млрд и превзошла ожидания рынка, а в серверном сегменте она последовательно увеличилась сразу на 82 % до $3,2 млрд. Если быть точнее, данную сумму Dell выручила на реализации серверов для систем искусственного интеллекта.

Источник изображения: Dell

Удельный доход Dell на одну акцию тоже оказался выше ожиданий инвесторов: $1,89 против $1,71. Чистая прибыль компании выросла на 85 % до $841 млн. Прогноз по годовой выручке Dell несколько улучшила до диапазона от $95,5 млрд до $98,5 млрд. В прошлом году она выручила $88,4 млрд, так что динамика выручки обещает быть приятной для инвесторов. В текущем квартале Dell рассчитывает выручить от $24 млрд до $25 млрд, что примерно соответствует ожиданиям рынка.

Эта компания вошла в число крупнейших поставщиков серверного оборудования для систем искусственного интеллекта, как сообщает CNBC, поэтому по сравнению с аналогичным кварталом прошлого года её выручка в минувшем отчётном периоде выросла сразу с $1,7 млрд до $3,2 млрд в последовательном сравнении. После закрытия торгов накануне публикации квартального отчёта акции Dell выросли в цене на 3 %, всего с начала года они поднялись на 48 %.

В целом инфраструктурное подразделение, которое и занимается поставками серверного оборудования, увеличило свою выручку на 38 % до $11,65 млрд и превзошло ожидания рынка. Серверное оборудование и телекоммуникационные решения принесли Dell в прошлом квартале $7,76 млрд, выручка на этом направлении выросла в годовом сравнении на 80 %. Другими словами, в серверном сегменте в целом Dell получает чуть менее половины одной трети своей выручки. Но к системам для ИИ по итогам квартала относились лишь $3,2 млрд выручки. Компания уже располагает заказами на ИИ-серверы на общую сумму $3,8 млрд, которые только предстоит выполнить. Впрочем, не всё так безоблачно в серверном бизнесе в целом, поскольку на направлении систем хранения данных выручка Dell сократилась на 4 % до $4 млрд.

Клиентское направление бизнеса принесло компании только $12,41 млрд выручки по итогам прошлого квартала, это на 4 % меньше прошлогоднего результата. В корпоративном сегменте реализация ПК принесла Dell стабильность по сравнению с прошлым годом (на уровне $10,55 млрд), а вот в потребительском выручка сократилась сразу на 22 % до $1,86 млрд.

С начала 2024 года общий видеотрафик в России вырос на 30 %. CDN-сеть предназначена для ускорения доступа к контенту за счёт размещения в ключевых узлах сети кэширующих серверов. Обновлённая CDN-сеть VK теперь включает более 150 узлов с кэш-серверами, которые охватывают все федеральные округа РФ, а также страны СНГ. Благодаря этому скорость загрузки для посетителей из России, Казахстана, Таджикистана, Узбекистана и Белоруссии возрастает на 20–30 %.

Источник изображения: Pixabay

«Технические улучшения помогут пользователям комфортно взаимодействовать с сайтами VK независимо от их местоположения. Без задержек смотреть видео в высоком разрешении, слушать музыку, общаться, осваивать новые профессии и решать множество других задач», — сообщила заместитель вице-президента компании по инфраструктуре и прикладным сервисам Елена Якупова.

За год с момента официального запуска проекта в сентябре прошлого года приложение «VK Видео» было установлено на 11 млн устройств под управлением ОС Android, на 6 млн смарт-телевизоров Android TV и на 3 млн телефонов и планшетов под управлением iOS. Пиковое количество установок — 2 млн — было зафиксировано в июле. За первую неделю августа 2024 года прирост аудитории увеличился в 2,2 раза по сравнению со среднемесячными показателями июля, достигнув пика в 2,5 млн пользователей в сутки.

«Пропускная способность стыков с операторами связи выросла вдвое по сравнению с 2023 г. А производительность сети VK до 40 Тбит/с. Этого будет достаточно, даже если ежедневная аудитория сервисов VK вырастет одномоментно в два раза», – добавила Елена Якупова.

6 августа «VK Видео» и RuTube вошли в тройку лидеров по числу установок приложений в России. По данным VK, количество установок «VK Видео» в августе выросло в 4,5 раза относительно среднемесячных значений.

Компания AMD сегодня объявила о достигнутой договорённости по покупке производителя инфраструктурных решений для серверного сегмента ZT Systems, который работает на американском рынке более 29 лет, из них более половины этого времени компания сотрудничала с крупными провайдерами облачных услуг. Сделку планируется закрыть в первой половине следующего года.

Источник изображения: ZT Systems

Общая сумма сделки, с учётом денежных выплат (75 %) и обмена акциями (25 %), составит $4,9 млрд, причём в неё войдёт будущая выплата на сумму $400 млн, которая будет получена продавцом при выполнении определённых условий. По замыслу AMD, покупка опытного производителя серверного оборудования и провайдера инфраструктурных решений позволит компании ускорить экспансию собственных компонентов для сегмента систем искусственного интеллекта. При этом сотрудничество AMD с прочими партнёрами в этой сфере продолжит развиваться.

После покупки активов ZT Systems они войдут в состав подразделения AMD Data Center Solutions. Глава поглощаемой компании Фрэнк Чжан (Frank Zhang) будет заведовать производственным направлением, а президент ZT Systems Даг Хуанг (Doug Huang) будет отвечать за разработку продуктов и взаимодействие с клиентами, при этом оба будут подчиняться исполнительному вице-президенту и руководителю подразделения Форресту Норроду (Forrest Norrod). Интересно, что производственные мощности ZT Systems по выпуску серверных систем на территории США компания AMD собирается приобрести при участии некоего стратегического партнёра. То есть, этот бизнес будет выделен из структуры AMD и продан новым владельцам. Покупатели пока не определены. Сделка уже одобрена советом директоров AMD, и теперь она после согласований с регуляторами должна быть закрыта в первой половине следующего года.

Генеральный директор AMD Лиза Су (Lisa Su) в интервью Reuters по поводу этой сделки заявила: «Главный плюс, который AMD получит в результате — это способность продавать больше GPU». Из примерно 2500 сотрудников ZT Systems в состав AMD перейдут около 1000 человек. До недавних пор ZT Systems ежегодно генерировала примерно $10 млрд выручки. На продажу производственных активов компании уйдёт примерно от 12 до 18 месяцев после того, как сделка с AMD будет закрыта. Со второй половины следующего года финансовые результаты бывшей ZT Systems будут отображаться в отчётности AMD.

Подведомственный Роскомнадзору (РКН) Главный радиочастотный центр (ФГУП ГРЧЦ) потребовал, чтобы операторы связи предоставили Центру мониторинга и управления сетью связи общего пользования (ЦМУ ССОП, отвечает за блокировки) информацию о размещённых на их сетях кеширующих серверах Google, сообщил ресурс Forbes со ссылкой на несколько операторов связи.

Источник изображения: dlohner/Pixabay

По данным источника Forbes, после ухода Google в России осталось около 1500–2000 серверов Google Global Cache (GGC), установленных на сетях операторов связи, и ещё примерно столько же в ЦОД. Система GGC предназначена для кеширования и ускорения загрузки данных.

В Роскомнадзоре не стали пояснять, зачем ведомству понадобилась эта информация, лишь указав, что Google уже два года как ушла из России, прекратив поддержку инфраструктуры своих кеширующих серверов в российских сетях связи, что ведёт к снижению качества работы YouTube. «Многочисленные нарушения нашего законодательства, неуважение к нашей стране и гражданам являются основанием для принятия мер в отношении YouTube. И у нас достаточно инструментов для мотивации компании в такой ситуации, право их использования мы оставляем за собой», — сообщили в пресс-службе Роскомнадзора.

По словам гендиректора оператора «Обит» Андрея Гука, по серверам Google не было никакого учёта, поскольку Google размещала их в России по прямым договорам с операторами связи. И сейчас Роскомнадзор, скорее всего, хочет понять, сколько таких серверов сейчас в России и где они находятся.

Как полагает источник Forbes на рынке связи, Роскомнадзор пытается разобраться, можно ли изъять серверы Google по долгам банкротящейся российской «дочки» или же усилить контроль над ними, чтобы трафик этих серверов обязательно шёл через технические средства противодействия угрозам (ТСПУ).

Ещё один источник Forbes предположил, что информация о серверах GGC нужна Роскомнадзору для того, чтобы сопоставить, как проходит трафик YouTube к абонентам тех операторов, у которых эти серверы установлены. «Данные о факте установки серверов GGC можно использовать для дальнейших мероприятий по обеспечению замедления YouTube, потому что могут быть конфигурации, при которых трафик с GGC идёт к абонентам, не проходя через ТСПУ», — говорит он.

Проблемы с доступом к YouTube наблюдаются уже почти месяц. 8 августа начали поступать массовые жалобы по поводу прекращения доступа к YouTube. Также отмечены случаи, когда переставало воспроизводиться видео в высоком качестве (от 1080p) при просмотре через популярные браузеры для десктопов.

Неожиданная проблема настигла новейшие серверные системы Nvidia GB200 NVL72 и NVL36, оснащённые передовыми ускорителями вычислений GB200, которые предназначены для приложений искусственного интеллекта. Незадолго до начала массового производства и запуска продукта в продажу была обнаружена серьёзная проблема в системе жидкостного охлаждения.

Источник изображения: Nvidia

Напомним, что системы GB200 NVL72 представляют собой целую серверную стойку сразу с 18 1U-узлами, в каждом из которых имеется пара ускорителей GB200, которые, в свою очередь, представляют собой пару чипов Nvidia B200 и один 72-ядерный Arm-процессор Grace. Итого система включает 72 чипов B200, 36 процессоров Grace, соединённых шиной NVLink 5. Вся эта система потребляет порядка 120 кВт, оснащена СЖО и единой DC-шиной питания. В свою очередь, система GB200 NVL36 представляет собой систему с вдвое меньшим числом GB200. По предварительным данным, система GB200 NVL72 будет стоить $3 млн.

Как сообщает TweakTown со ссылкой на тайваньское издание UDN, в системах жидкостного охлаждения GB200 NVL72 обнаружены утечки, которые, по предварительным данным, связана с комплектующими сторонних производителей. Ранее Nvidia передала производство некоторых компонентов системы охлаждения, таких как патрубки, быстроразъёмные соединения и шланги, своим партнёрам — крупным международным производителям.

Источник изображения: theregister.com

Утечки были обнаружены до начала массового производства ИИ-систем NVL36 и NVL72, что дало производителям время на устранение неполадок и, несмотря на возникшие трудности и угрозу срыва сроков поставок ключевым клиентам, ожидается, что продукт будет поставлен вовремя.

Тем не менее, инцидент вызвал обеспокоенность у крупных поставщиков облачных услуг, которые опасаются за надёжность новых серверов Nvidia. В ответ на ситуацию, тайваньские производители, такие как Shuanghong и Qihong, стали наращивать производство компонентов для систем жидкостного охлаждения, чтобы предоставить Nvidia альтернативные варианты.

Сертификация патрубков, быстроразъёмных соединений и шлангов является сложным процессом, требующим специальных знаний и опыта. Ранее тайваньские компании не специализировались на производстве подобных компонентов, но решение Nvidia использовать жидкостное охлаждение в своих AI-чипах подтолкнуло их к освоению новых технологий. В настоящий момент ведутся активные работы над устранением проблемы. Ожидается, что серверные шкафы с процессорами GB200 и исправленной системой охлаждения начнут поставляться клиентам в ближайшее время.

Компания Gigabyte показала серверы на аппаратной платформе AMD EPYC Genoa, которые выделяются наличием сразу 48 слотов для модулей оперативной памяти DDR5 RDIMM. Модели R183-ZK0 и R283-ZK0 выполнены в стандартных форматах 1U и 2U соответственно.

Gigabyte R283-ZK0

Обе системы построены на материнской плате Gigabyte MZK3-LM0. Она поддерживает установку двух серверных процессоров AMD EPYC для Socket SP5 и предлагает по 24 слота DDR5 RMIMM на каждый процессор. Последние расположены в уникальном порядке 6-2-4 с одной стороны от процессорного разъёма и 4-2-2-4 с другой стороны. В общей сложности каждый из серверов Gigabyte R183-ZK0 и R283-ZK0 поддерживает установку до 24 Тбайт ОЗУ — 48 модулей по 512 Гбайт.

Как отмечает портал Serve the Home, познакомившийся с новинкой ещё на выставке Computex в начале июля, из-за ограниченной площади платы процессорные разъёмы на ней располагаются не горизонтально напротив друг друга, а по диагонали. Выглядит необычно, но работает. Системы поддерживают установку до 128-ядерных и 256-поточных серверных процессоров AMD EPYC 9004. Кроме того, они готовы к некоторым моделям будущих процессоров EPYC следующего поколения.

Gigabyte R183-ZK0

Сервер R283-ZK0 оснащён двумя гигабитными сетевыми портами LAN, получил восемь отсеков для 2,5-дюймовых твердотельных NVMe-накопителей PCIe 5.0 с возможностью «горячей замены», четыре отсека для 2,5-дюймовых накопителей SATA/SAS-4, два слота M.2 стандартов PCIe 3.0 x4 и PCIe 3.0 x2, четыре разъёма FHHL PCIe 5.0 x16 и два OCP 3.0 Gen5 x16. Кроме того, новинка поддерживает подключение двух 2700-Вт блоков питания с эффективностью 80 Plus Titanium.

В свою очередь, более компактная система Gigabyte R183-ZK0 типоразмера 1U отличается от более крупной модели наличием всего четырёх слотов под NVMe-накопители PCIe 5.0 с возможностью «горячей замены», одного слота FHHL и может оснащаться блоками питания мощностью до 2000 Вт.

Стоимость систем Gigabyte не называет. Однако подобный сервер будет недешёвым удовольствием. Например, один 128-ядерный процессор AMD EPYC 9004 сейчас стоит около $10 000. Компания Samsung ещё в 2021 году показывала модули ОЗУ DDR5 объёмом 512 Гбайт для серверов, однако найти их в свободной продаже даже сейчас кажется нереальной задачей. Но, например, комплект из двух модулей ОЗУ DDR5 RDIMM от компании Dell объёмом по 256 Гбайт каждый в настоящий момент можно приобрести за $6335. Таким образом, общая стоимость сервера на базе платы Gigabyte MZK3-LM0 легко превысит сотню тысяч долларов.

Высокий спрос на передовые серверы для систем искусственного интеллекта со стороны крупных поставщиков облачных услуг и их клиентов сохранится до конца 2024 года, уверены аналитики TrendForce. Расширение производства TSMC, SK hynix, Samsung и Micron значительно сократило дефицит во II квартале 2024 года — срок выполнения заказа на флагманские ИИ-ускорители Nvidia H100 сократился с прежних 40–50 до менее чем 16 недель.

Источник изображения: nvidia.com

Объём поставок ИИ-серверов по итогам II квартала увеличился почти на 20 % по сравнению с предшествующим кварталом, гласит предварительная оценка TrendForce — годовой прогноз поставок был пересмотрен до значения 1,67 млн единиц, что соответствует росту на 41,5 % год к году. Крупные облачные провайдеры в этом году направляют свои бюджеты на закупку ИИ-серверов в ущерб темпам роста поставок обычных серверов — он составит всего 1,9 %. Ожидается, что доля ИИ-серверов в общем объёме поставок достигнет 12,5 %, что примерно на 3,4 п.п. выше, чем в 2023 году.

С точки зрения рыночной стоимости ИИ-серверы вносят больший вклад в рост выручки, чем обычные серверы. По итогам 2024 года рыночная стоимость ИИ-серверов превысит $187 млрд при темпе роста 69 %, что составит 65 % от общей стоимости серверов, гласит прогноз TrendForce. Собственные ASIC-решения активно расширяют как североамериканские операторы AWS и Meta✴, так и китайские гиганты в лице Alibaba, Baidu и Huawei. Как ожидается, по итогам 2024 года доля ASIC-серверов составит до 26 % от общего серверного рынка, тогда как на ИИ-серверы с массовыми GPU придутся около 71 %.

Источник изображения: trendforce.com

Nvidia удержит крупнейшую долю около 90 % на рынке поставщиков ИИ-чипов для ИИ-серверов; доля рынка AMD будет всего около 8 %. Но если включить все чипы ИИ, используемые в ИИ-серверах (GPU, ASIC, FPGA), доля рынка Nvidia по итогам года составит около 64 %. Спрос на передовые ИИ-серверы, считают аналитики TrendForce, останется высоким на протяжении всего 2025 года, особенно с учётом того, что на смену Nvidia Hopper придёт новое поколение ИИ-ускорителей Blackwell (GB200, B100/B200). Из-за этого вырастет спрос на упаковку чипов TSMC CoWoS и память HBM: на ускорителе Nvidia B100 размер чипа вдвое больше. Производственная мощность TSMC CoWoS к концу 2025 года достигнет 550–600 тыс. единиц при темпах роста около 80 %. Массовый Nvidia H100 в 2024 году будет оснащаться 80 Гбайт HMB3; к 2025 году чипы Nvidia Blackwell Ultra и AMD MI350 получат до 288 Гбайт HBM3e, утроив расход компонентов памяти. Ожидается, что общее предложение HBM к 2025 году удвоится из-за высокого спроса на рынке ИИ-серверов.

Исследователи безопасности обнаружили критическую уязвимость в популярном серверном почтовом клиенте Exim, которая позволяет злоумышленникам обходить защиту и отправлять вредоносные вложения. Под угрозой находятся более 1,5 миллиона серверов по всему миру.

Источник изображения: Aaron McLean / Unsplash

Специалисты по кибербезопасности выявили 10 дней назад серьёзную уязвимость в программном обеспечении Exim — одном из самых распространённых почтовых серверов в мире, сообщает Ars Technica. Уязвимость, получившая идентификатор CVE-2024-39929, позволяет злоумышленникам обходить стандартные механизмы защиты и отправлять электронные письма с исполняемыми вложениями, которые могут представлять серьёзную угрозу для конечных пользователей.

По данным компании Censys, специализирующейся на анализе киберугроз, в настоящее время из присутствующих в сети более 6,5 миллионов общедоступных SMTP-серверов, 4,8 миллиона (около 74 %) работают под управлением Exim. Более 1,5 миллиона серверов Exim (примерно 31 %) используют уязвимые версии программного обеспечения.

Уязвимость CVE-2024-39929 получила оценку критичности 9,1 из 10 по шкале уровня опасности CVSS и возникает из-за ошибки в обработке многострочных заголовков, описанных в стандарте RFC 2231. Хейко Шлиттерманн (Heiko Schlittermann), член команды разработчиков Exim, подтвердил наличие уязвимости, назвав её «серьёзной проблемой безопасности».

Хотя на данный момент нет сообщений об активном использовании ошибки, эксперты предупреждают о высокой вероятности целенаправленных атак в ближайшее время. Они напомнили о случае 2020 года, когда хакерская группа Sandworm эксплуатировала другую уязвимость в Exim (CVE-2019-10149) для массовых атак на серверы.

Несмотря на то, что для успешной атаки требуется, чтобы конечный пользователь запустил вредоносное вложение, эксперты подчёркивают, что методы социальной инженерии остаются одними из самых эффективных способов компрометации систем. Специалисты рекомендуют администраторам серверов Exim в кратчайшие сроки обновить программное обеспечение до последней версии, чтобы защитить свои системы от потенциальных атак.

Уязвимость CVE-2024-39929 присутствует во всех версиях Exim до 4.97.1 включительно. Исправление доступно в Release Candidate 3 версии 4.98.

В 2020 году из-за пандемии и массового перехода на удалёнку поставки серверов всех типов достигли максимальных значений. В последующие годы отгрузки серверов почти всех типов снизились до нормы, но есть одно исключение — системы искусственного интеллекта, которые сохраняют мощные темпы роста, пишет Tom’s Hardware со ссылкой на статистику Omdia.

Источник изображения: Pete Linforth / pixabay.com

Прогнозируется, что поставки ИИ-серверов сохранят активный рост и в будущем: в 2019 году было отгружено 500 тыс. единиц, а к 2029 году этот показатель вырастет до 4,5 млн — ИИ станет ведущим приложением для центров обработки данных. Растёт и ассортимент моделей ИИ, и количество приложений на их основе — поэтому в Omdia предрекают стремительный рост поставок ИИ-серверов до 2029 года; соответственно, будут расти и доходы от этого оборудования.

В других серверных сегментах такой динамики не ожидается. Незначительный рост с 2 млн в 2019 до 2,5 млн к 2029 году могут продемонстрировать серверы баз данных и аналитики; в сегменте медиа, графики и игр ожидается стабильный уровень поставок около 2 млн. Телекоммуникационное направление с 2019 по 2023 год демонстрировало снижение с 4 млн до 2 млн — далее ожидается стабилизация. Видимо, эта тенденция объясняется ростом производительности машин, а значит, их будет требоваться меньше.

Источник изображения: Omdia

Отгрузки серверов для веб-сервисов снизились с 2,5 млн в 2019 до 1,5 млн в 2023 году; в категории прочих IT-приложений и бизнес-процессов также отмечено сокращение с 3,5 млн в 2019 до 1,5 млн в 2023 году, но к 2029 году здесь ожидается рост до 3 млн. Это, утверждают аналитики Omdia, отражает сдвиг в сторону вложений в ИИ и оптимизация по другим направлениям. Благодаря управлению температурным режимом в ЦОД ожидается рост выручки с $7,7 млрд в 2023 до $9,4 млрд в 2029 году. Инвестиции в компоненты распределения энергии помогут поднять инфраструктурную выручку выше $4 млрд.

Основным фактором роста для ИИ-серверов в целом и продаж Nvidia в частности было направление, связанное с обучением ИИ: ускорители Nvidia A100 и H100 с поддержкой CUDA значительно опередили конкурентов. Продажи серверов для обучения ИИ продолжат расти, но сейчас, когда множество моделей ИИ уже обучено, настало время на них зарабатывать. Это значит, что продажи серверов для работы ИИ должны взлететь, причём их рост будет опережать рост сегмента обучения ИИ.

Источник изображения: Omdia

Как ожидается, серверы для обучения ИИ теперь будут демонстрировать скромный рост с совокупным среднегодовым темпом (CAGR) 5 % — с 0,5 млн в 2019 году до немногим менее 1 млн в 2029 году. Этот рост обусловлен увеличением эффективности графических процессоров и ИИ-ускорителей, выделением бюджетов на исследования и разработку, а также тем фактом, что предприятия будут выбирать уже обученные модели ИИ. Тем временем серверы для работы ИИ продемонстрируют CAGR в 17 % — с 0,5 млн в 2019 до 4 млн в 2029 году. Это отражает рост прикладных решений в области ИИ и соответствующую ему динамику потребности в серверном оборудовании. В целом, заключают в Omdia продажи ИИ-серверов в ближайшие пять лет сохранят быстрый рост, а в прочих сегментах он будет не столь значительным.

Полупроводниковая промышленность Китая демонстрирует впечатляющие успехи, несмотря на ограничения США. Сегодня Loongson сообщила о выпуске тестовой партии серверных процессоров 3C6000, 3D6000 и 3E6000, которые в настоящее время отправлены на испытания. Новая линейка серверных чипов Loongson будет выпущена в четвёртом квартале 2024 года, в точном соответствии с планом.

Источник изображений: Loongson

Новые серверные процессоры Loongson выделяются своей чиплетной компоновкой. В то время как 3C6000 сам по себе является 16-ядерным и 32-поточным процессором, 3D6000 содержит два кристалла 3C6000, соединённые с помощью скоростной шины Loongson Coherent Link, образуя 32-ядерный и 64-поточный процессор. А 64-ядерный и 128-поточный 3E6000, в свою очередь, объединяет четыре чиплета 3C6000.

3C6000 содержит 16 ядер LA664 с микроархитектурой LoongArch от Loongson. Производитель утверждает, что ядра LA664 обеспечивают вдвое большую производительность, чем их предшественники в процессоре 3C5000 последнего поколения, который работал на частоте 2,2 ГГц. Семейство 3C6000 также будет поддерживать до четырёх каналов памяти DDR4-3200.

Чиплетная компоновка долгое время считалась будущим микропроцессоров в мире, пережившем закон Мура, и нигде это не проявляется в большей степени, чем в Китае. Из-за санкций США эта технология рассматривается как способ окольным путём добиться большей производительности. Тем не менее, Loongson прилагает все усилия для разработки передовых чипов, в отличие от многих китайских производителей, которые полностью перешли на производство по устаревшим техпроцессам.

Усилия Loongson впечатляют — благодаря собственной архитектуре LoongArch ISA на базе MIPS и использованию отечественных фабрик компания успешно продвигает свои разработки на китайском (и не только) рынке. Последние процессоры Loongson по производительности приближаются к процессорам Intel 10-го поколения.

Поскольку Китай ограничивает использование компьютеров с процессорами иностранного производства в государственных учреждениях, Loongson продолжает увеличивать свою долю на китайском рынке. В частности, все китайские школы оснащены ПК на процессорах Loongson.

Противоречия США и Китая подталкивают производителей электроники двигаться за пределы КНР не только по странам Азии, но и переносить производство ближе к границам США на североамериканском континенте. Foxconn, в частности, тратит сотни миллионов долларов на то, чтобы организовать в достаточных количествах выпуск серверного оборудования в Мексике.

Источник изображения: Dell Technologies

Как поясняет The Wall Street Journal, в прошлом месяце Foxconn сообщила о покупке за $27 млн земельного участка на западе Мексики, чтобы расширить выпуск серверного оборудования, необходимого американским заказчикам для развития собственных систем искусственного интеллекта. За прошедшие четыре года Foxconn вложил в мексиканскую экономику не менее $690 млн. По словам местных властей, активность данной компании «драматическим образом изменит индустриальную структуру Мексики в ближайшие десять лет».

На данном этапе организация производства в Мексике несёт с собой определённые риски: высокий уровень преступности, нехватку водных ресурсов и электроэнергии, высокую конкуренцию за квалифицированные кадры. Представители тайваньских компаний, развивающих бизнес в Мексике, признались в необходимости привлечения частных охранных предприятий для обеспечения безопасности своих объектов. Мексиканский персонал также менее склонен к сверхурочной работе по сравнению с китайскими рабочими. В Мексике действуют профсоюзы, которые следят за соблюдением прав рабочих.

Крупные американские поставщики серверного оборудования типа Dell и HPE уже обратились к своим подрядчикам с просьбой перенести производство из Китая в страны Юго-Восточной Азии и Мексику, чтобы снизить влияние взаимных ограничений, которые власти США и КНР постоянно накладывают. Мексика располагает соглашениями о свободной торговле с 50 странами, и это облегчает логистику необходимых для производства серверного оборудования компонентов. В сфере автомобилестроения это уже позволило превратить Мексику в пятого по величине экспортёра в мире. Здесь собирается построить своё новое предприятие американская компания Tesla.

Около 300 тайваньских компаний ведут бизнес на территории Мексики, они обеспечивают работой около 700 000 местных жителей. Товарооборот между странами в прошлом году превысил $15 млрд. Компании Foxconn, Pegatron, Wistron, Quanta, Compal и Inventec сосредоточили свои мексиканские предприятия у границы с Техасом. Тайваньские компании контролируют примерно 90 % мировых объёмов выпуска материнских плат серверного назначения. Foxconn контролирует немалую часть производства ускорителей вычислений на базе графических процессоров.

В прошлом году импорт товаров из Мексики в США вывел страну на первое место в этой структуре с долей 15,4 %, тогда как Китай отступил на 13,9 %, хотя ещё в 2015 году мог претендовать на 21,5 % американского импорта. Мексиканские власти активно вкладываются в развитие транспортной инфраструктуры с целью привлечения дополнительных инвестиций со стороны тайваньских компаний.