Сегодня 30 сентября 2025
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

Nvidia втрое ускорила работу ИИ на видеокартах GeForce RTX

Nvidia сообщила, что дополнительно увеличила ИИ-производительность своих видеокарт GeForce RTX и платформ RTX AI PC с выпуском последнего драйвера версии GeForce Game Ready 555.85 WHQL. В ходе конференции Microsoft Build компания Nvidia анонсировала ряд новых оптимизаций производительности для алгоритмов искусственного интеллекта, которые теперь доступны в рамках экосистемы RTX, включая графические процессоры GeForce RTX, рабочие станции и ПК.

 Источник изображений: Nvidia

Источник изображений: Nvidia

Nvidia отмечает, что последние оптимизации нацелены на ускорение работы ряда больших языковых моделей (LLM) использующихся генеративным ИИ. Новый драйвер Nvidia версии 555 обеспечивает видеокартам GeForce RTX и платформам RTX AI PC трёхкратный прирост ИИ-производительности при работе с фреймворками ONNX Runtime (ORT) и DirectML. Оба инструмента используются для запуска ИИ-моделей в среде операционной системы Windows.

Кроме того, новый драйвер увеличил производительность программного интерфейса WebNN для DirectML, который используется веб-разработчиками для размещения новых ИИ-моделей. Nvidia сообщает, что сотрудничает с Microsoft над дальнейшим повышением производительности графических процессоров RTX и добавлением поддержки DirectML в PyTorch. Ниже приведен полный список возможностей, которые предлагаются свежим драйвером Nvidia R555 для графических процессоров GeForce RTX и ПК с RTX:

  • поддержка метакоманды DQ-GEMM для обработки квантования INT4 только по весу для LLM;
  • новые методы нормализации RMSNorm для моделей Llama 2, Llama 3, Mistral и Phi-3;
  • механизмы группового и многозапросного внимания, а также внимания скользящего окна для поддержки Mistral;
  • обновления KV для улучшения внимания;
  • поддержка GEMM-тензоров, не кратных 8, для улучшения производительности контекстной фазы.

В тестах производительности ORT, генеративного расширения искусственного интеллекта, выпущенного Microsoft, новый драйвер Nvidia приводит к приросту производительности по всем направлениям, как для типов данных INT4, так и для FP16. Благодаря методам оптимизации, добавленным в это обновление, производительность больших языковых моделей Phi-3, Llama 3, Gemma и Mistral увеличивается до трёх раз.

Nvidia также напоминает, что преимущество экосистемы RTX заключается в использовании возможностей воспроизводительных тензорных ядер. На их основе работают DLSS Super Resolution, Nvidia Ace, RTX Remix, Omniverse, Broadcast, RTX Video и другие технологии. Кроме того, для использования тензорных ядер в ускорении работы ИИ компания предлагает комплекты разработчиков TensorRT, Maxine и RTX Video.

В своём пресс-релизе Nvidia сообщает, что её GPU обеспечивают ИИ-производительность до 1300 TOPS (триллионов операций в секунду), что гораздо выше возможностей любых других конкурентных решений.

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
Соавтор Disco Elysium устроит из анонса новой игры событие мирового масштаба — Summer Eternal готовит необычную презентацию Red Rooster 14 мин.
Российский суд оштрафовал Microsoft и Telegram на 3,5 млн рублей каждую, а Apple — на 7 млн 2 ч.
Основатель и глава Spotify внезапно объявил об уходе в отставку 2 ч.
Команды разработчиков Windows воссоединились после шестилетней работы порознь 2 ч.
Nvidia выпустила драйвер с поддержкой Battlefield 6 и обновления FBC: Firebreak 2 ч.
«Пластилиновая» ролевая игра Banquet For Fools отправит исследовать загадочный мир и придумывать заклинания — дата выхода и новый трейлер 2 ч.
Nothing продолжает нейрофикацию — запущен ИИ-генератор мини-приложений по текстовым описаниям 3 ч.
Хардкорная ролевая игра Outward 2 выйдет летом 2026 года 3 ч.
«Ростелеком» запустил «Турбо Облако» с 500 тыс. виртуальными процессорами 4 ч.
Хакеры парализовали крупнейшую пивоварню Японии 4 ч.
LG выпустила монитор UltraFine evo 6K с Thunderbolt 5 для профессионалов — в 2,5 раза дешевле аналога от Apple 25 мин.
Apple представила наушники Powerbeats Fit за $200 с гибкой конструкцией для спорта и не только 38 мин.
Китайская Zhaoxin представила серверные x86-процессоры KH-50000 — до 96 ядер, 128 линий PCIe 5.0 и 12 каналов DDR5-5200 5 ч.
Samsung готовит SSD вместимостью 512 Тбайт с интерфейсом PCIe 6.0 5 ч.
Бум атомной энергетики из-за ИИ ЦОД в США обойдётся в $350 млрд 5 ч.
Logitech представила беспроводную мышь MX Master 4 с тактильной обратной связью за $120 5 ч.
Китайцы создали самый сильный в мире сверхпроводящий магнит — в 700 000 раз мощнее поля Земли 5 ч.
Gneuton разработала систему преобразования тепла газовых турбин в очищенную воду для дата-центров 6 ч.
Blue Owl заключила соглашение о строительстве ЦОД с Инвестиционным управлением Катара (QIA) 6 ч.
Выручка OpenAI выросла на 16 % до $4,3 млрд в первом полугодии — до окупаемости ещё далеко 7 ч.