Сегодня 26 октября 2026
18+
MWC 2018 2018 Computex IFA 2018
реклама
Теги → pytorch

Amazon и Google облегчили побег от Nvidia: запускать модели под PyTorch на ИИ-чипах Trainium и TPU стало проще

Amazon и Google представили на мероприятии PyTorch Conference открытые средства для запуска оптимизированного для Nvidia фреймворка PyTorch на своих ускорителях искусственного интеллекта. Инструментарий Amazon TorchNeuron позволяет запускать проекты PyTorch на ускорителях Trainium; Google представила инструмент с открытым исходным кодом TorchTPU для работы PyTorch на ускорителях TPU.

 Источник изображения: Fotis Fotopoulos / unsplash.com

Источник изображения: Fotis Fotopoulos / unsplash.com

Amazon TorchNeuron решил проблему совместимости PyTorch с чипами Trainium — ранее для работы фреймворка на этих ускорителях требовались значительные усилия. Теперь проекты запускаются на ускорителях Trainium2 и Trainium3 без внесения масштабных изменений в код — достаточно лишь указать параметр, какой ускоритель будет использоваться для выполнения задач. TorchNeuron включает набор готовых операторов языка NKI, созданного для ускорителей Trainium. За счёт специального компилятора язык позволяет оптимизировать модели на низком уровне, обеспечивая прирост скорости и сокращение потребления аппаратных ресурсов.

Помимо поддержки самого PyTorch, Amazon предложила совместимость и с другими открытыми инструментами, которые используются в связке с фреймворком. Одним из них является используемый в обучении моделей механизм TorchTitan, который автоматизирует часть задач по распределению процессов между ускорителями.

Разработкой инструмента TorchTPU компания Google занималась совместно с командой PyTorch в Meta✴✴. Этот инструмент позволяет запускать существующие рабочие нагрузки PyTorch на ускорителях TPU с минимальными изменениями в коде. Поддерживаются стандартные средства API PyTorch, предусмотрена расширенные инструменты диагностики, есть встроенные примитивы для распределённых вычислений — всё это обеспечивает высокую производительность и эффективность работы на старте, отметили в Google Cloud.

В Google также заручились поддержкой Hugging Face, благодаря чему модели с открытыми весами из библиотеки популярной ИИ-платформы поддерживают работу с TPU «из коробки» — достаточно указать соответствующий параметр. Отмечена поддержка востребованных в профессиональной среде средств разработки ИИ: vLLM, SGLang, llm-d, TorchTitan, Ray, TorchRec и LiteRT. Другими словами, ускорители Google TPU теперь включены в привычную для разработчиков среду PyTorch с поддержкой набора уже существующих инструментов — это упрощает переход на оборудование Google и не требует перестраивать всю программную систему.

Google объединилась с Meta✴, чтобы ударить по доминированию Nvidia в сфере ПО для ИИ

Google работает над улучшением производительности своих ИИ-чипов при работе с PyTorch. Этот проект с открытым исходным кодом является одним из наиболее широко используемых инструментов для разработчиков моделей ИИ. Для ускорения разработки Google сотрудничает с Meta✴✴, создателем и администратором PyTorch. Партнёрство подразумевает доступ Meta✴✴ к большему количеству ИИ-ускорителей. Этот шаг может пошатнуть многолетнее доминирование Nvidia на рынке ИИ-вычислений.

 Источник изображения: unsplash.com

Источник изображения: unsplash.com

Эта инициатива является частью агрессивного плана Google по превращению своих тензорных процессоров (Tensor Processing Unit, TPU) в жизнеспособную альтернативу лидирующим на рынке графическим процессорам Nvidia. Продажи TPU стали важнейшим двигателем роста доходов Google от облачных сервисов. Однако для стимулирования внедрения ИИ-ускорителей Google одного оборудования недостаточно.

Новая инициатива компании, известная как TorchTPU, направлена ​​на устранение ключевого барьера, замедляющего внедрение чипов TPU, путём обеспечения их полной совместимости и удобства для разработчиков PyTorch. Google также рассматривает возможность открытия некоторых частей исходного кода своего ПО для ускорения его внедрения. По сравнению с предыдущими попытками поддержки PyTorch на TPU, Google уделяет больше организационного внимания, ресурсов и стратегического значения TorchTPU, поскольку компании, которые хотят использовать эти чипы, рассматривают именно программный стек как узкое место технологии.

PyTorch, проект с открытым исходным кодом, активно поддерживаемый Meta✴✴, является одним из наиболее широко используемых инструментов для разработчиков, создающих модели ИИ. В Кремниевой долине очень немногие разработчики пишут каждую строку кода, которую будут фактически выполнять чипы от Nvidia, AMD или Google. Разработчики полагаются на такие инструменты, как PyTorch, представляющий собой набор предварительно написанных библиотек кода и фреймворков.

 Источник изображения: pytorch.org

Источник изображения: pytorch.org

Доминирование Nvidia обеспечивается не только её ускорителями ИИ, но и программной экосистемой CUDA, которая глубоко интегрирована в PyTorch и стала методом по умолчанию для обучения и запуска крупных моделей ИИ. Инженеры Nvidia приложили максимум усилий, чтобы программное обеспечение, разработанное с помощью PyTorch, работало максимально быстро и эффективно на чипах компании.

Бо́льшая часть программного обеспечения Google для ИИ построена на основе платформы Jax, что отталкивает клиентов, применяющих для разработки PyTorch. Поэтому сейчас для Google стало особенно важным обеспечить максимальную поддержку PyTorch на своих ускорителях ИИ. В случае успеха TorchTPU может значительно снизить затраты на переход для компаний, желающих найти альтернативу графическим процессорам Nvidia.

Чтобы ускорить разработку, Google тесно сотрудничает с Meta✴✴, создателем и администратором PyTorch. Это партнёрство может предоставить Meta✴✴ доступ к большему количеству ИИ-чипов Google. Meta✴✴ прямо заинтересована в разработке TorchTPU — это позволит компании снизить затраты на вывод данных и диверсифицировать инфраструктуру ИИ, отказавшись от использования графических процессоров Nvidia.

В качестве первого шага Meta✴✴ предложила использовать управляемые Google сервисы, в рамках которых клиенты, такие как Meta✴✴, получили бы доступ к ИИ-ускорителям Google, а Google обеспечивала их операционную поддержку. В этом году Google уже начала продавать TPU напрямую в центры обработки данных своих клиентов. Компания нуждается в такой инфраструктуре как для запуска собственных продуктов ИИ, включая чат-бот Gemini и поиск на основе ИИ, так и для предоставления доступа клиентам Google Cloud.

 Источник изображения: Google

Источник изображения: Google

«Мы наблюдаем огромный, ускоряющийся спрос как на нашу инфраструктуру TPU, так и на инфраструктуру GPU, — заявил представитель Google. — Наша цель — обеспечить разработчикам гибкость и масштабируемость, необходимые независимо от выбранного ими оборудования».

AMD, вероятно, решила одну из самых серьезных проблем с генерацией кадров

AMD работает над улучшением своей технологии генерации кадров AFMF (AMD Fluid Motion Frames). В предварительной версии драйвера PyTorch Preview Edition 25.120.01.14 для Windows была обнаружена новая функция под названием Fast Motion Response, недоступная в стандартных публичных версиях драйвера Adrenalin.

 Источник изображения: Wccftech

Источник изображения: Wccftech

AMD Fluid Motion Frames — это функция генерации кадров на уровне драйвера, которую можно включить для каждой игры отдельно. Она не требует поддержки разработчиков игр и позволяет интерполировать дополнительные кадры, фактически удваивая частоту кадров в играх, которые в противном случае никогда бы не получили официальную поддержку генерации кадров. У функции есть свои недостатки, но она стала широко используемой, особенно в эмуляторах и на маломощных устройствах, таких как игровые портативные консоли.

В стандартном драйвере AMD Adrenalin 25.9.2 функция AFMF 2 предлагает два переключателя: «Поиск» и «Производительность». Переключатель «Поиск» отдаёт приоритет качеству изображения и плавности для дисплеев с высоким разрешением (1440p и выше), а переключатель «Производительность» снижает программную нагрузку AFMF на менее производительном оборудовании — слабых настольных видеокартах и встроенной графике.

 Источник изображения: AMD

Источник изображения: AMD

Новая настройка Fast Motion Response в AFMF 2 в составе предварительной версии драйвера PyTorch Preview Edition 25.120.01.14, призвана улучшить обработку динамичных сцен в играх, где технология генерации кадров может создавать артефакты. Функция предлагает два режима работы:

  • Repeat Frame (Повтор кадра) — предназначен для сохранения качества путём повтора последнего кадра, что сводит к минимуму такие артефакты, как двоение или размытие;
  • Blended Frame (Смешанный кадр) — смешивает последовательные кадры для повышения общей плавности игрового процесса, но за счёт возможного размытия в динамичных сценах.

Текущая предварительная версия драйвера PyTorch Preview Edition 25.120.01.14 для Windows поддерживает только видеокарты Radeon RX 7000 и RX 9000. Скачать драйвер можно здесь.


window-new
Soft
Hard
Тренды 🔥
Cyberpunk 2077 установила новый рекорд платформы mod.io и показала лучший пиковый онлайн в Steam за три года 24 мин.
Лучше бы молчали: власти США считают, что апокалиптические прогнозы ИИ-лидеров лишь сеют хаос 20 ч.
Основные облачные вычислительные мощности Amazon забронированы на весь 2027 год 24 ч.
AMD готовит официальный драйвер для разгона процессоров Ryzen под Linux 25-10 11:03
Новая статья: Order of the Sinking Star — королева головоломок. Рецензия 25-10 09:35
YouTube начнёт переходить на AV2 в начале 2027 года — новый кодек сжимает видео на 30 % лучше AV1 24-10 16:22
Основатель Twitter представил голосовой ИИ, обученный с нуля только на человеческой речи 24-10 12:14
Moonshot AI выпустила Kimi K3.1 Pro, которая обошла все модели OpenAI и почти догнала Claude Opus 5.5 24-10 10:17
«Цунами уязвимостей» надвигается: эксперты предупредили, что дальше будет только хуже, но потом станет лучше 24-10 10:07
OpenAI возобновила обучение ИИ-моделей, но не пускает их в интернет 24-10 09:03
Toyota бросит роботов на борьбу с китайскими автопроизводителями — но первыми пострадают рабочие 18 мин.
Panasonic начала продавать окна, которые вырабатывают электричество — в них «подмешали» перовскит 33 мин.
Китай обходит санкции США через облака: к 2027 году он получит мощности 2,8 млн NVIDIA H100 2 ч.
Новые MacBook Pro с OLED получат macOS 27 с оптимизациями для сенсорного управления 3 ч.
Intel Granite Rapids и 12 накопителей NVMe: представлен сервер хранения ASRock Rack 1U12E-GNR2/EVAC 4 ч.
ASUS выпустила JBOD-массив VS320D-RS78J с поддержкой 78 накопителей 4 ч.
Новая статья: Обзор realme 16 Pro Harry Potter Edition: чем хорош самый волшебный смартфон 2026 года 12 ч.
Владимир Путин поручил правительству увеличить производство систем иммерсионного охлаждения для ЦОД 13 ч.
ZTE представила модульный ЦОД для ИИ мощностью 250 кВт с воздушным и жидкостным охлаждением 21 ч.
Беспроводная мышь-трансформер: Logitech Pebble Up может менять форму для более удобного хвата 23 ч.