Сегодня 04 июля 2025
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

Nvidia втрое ускорила работу ИИ на видеокартах GeForce RTX

Nvidia сообщила, что дополнительно увеличила ИИ-производительность своих видеокарт GeForce RTX и платформ RTX AI PC с выпуском последнего драйвера версии GeForce Game Ready 555.85 WHQL. В ходе конференции Microsoft Build компания Nvidia анонсировала ряд новых оптимизаций производительности для алгоритмов искусственного интеллекта, которые теперь доступны в рамках экосистемы RTX, включая графические процессоры GeForce RTX, рабочие станции и ПК.

 Источник изображений: Nvidia

Источник изображений: Nvidia

Nvidia отмечает, что последние оптимизации нацелены на ускорение работы ряда больших языковых моделей (LLM) использующихся генеративным ИИ. Новый драйвер Nvidia версии 555 обеспечивает видеокартам GeForce RTX и платформам RTX AI PC трёхкратный прирост ИИ-производительности при работе с фреймворками ONNX Runtime (ORT) и DirectML. Оба инструмента используются для запуска ИИ-моделей в среде операционной системы Windows.

Кроме того, новый драйвер увеличил производительность программного интерфейса WebNN для DirectML, который используется веб-разработчиками для размещения новых ИИ-моделей. Nvidia сообщает, что сотрудничает с Microsoft над дальнейшим повышением производительности графических процессоров RTX и добавлением поддержки DirectML в PyTorch. Ниже приведен полный список возможностей, которые предлагаются свежим драйвером Nvidia R555 для графических процессоров GeForce RTX и ПК с RTX:

  • поддержка метакоманды DQ-GEMM для обработки квантования INT4 только по весу для LLM;
  • новые методы нормализации RMSNorm для моделей Llama 2, Llama 3, Mistral и Phi-3;
  • механизмы группового и многозапросного внимания, а также внимания скользящего окна для поддержки Mistral;
  • обновления KV для улучшения внимания;
  • поддержка GEMM-тензоров, не кратных 8, для улучшения производительности контекстной фазы.

В тестах производительности ORT, генеративного расширения искусственного интеллекта, выпущенного Microsoft, новый драйвер Nvidia приводит к приросту производительности по всем направлениям, как для типов данных INT4, так и для FP16. Благодаря методам оптимизации, добавленным в это обновление, производительность больших языковых моделей Phi-3, Llama 3, Gemma и Mistral увеличивается до трёх раз.

Nvidia также напоминает, что преимущество экосистемы RTX заключается в использовании возможностей воспроизводительных тензорных ядер. На их основе работают DLSS Super Resolution, Nvidia Ace, RTX Remix, Omniverse, Broadcast, RTX Video и другие технологии. Кроме того, для использования тензорных ядер в ускорении работы ИИ компания предлагает комплекты разработчиков TensorRT, Maxine и RTX Video.

В своём пресс-релизе Nvidia сообщает, что её GPU обеспечивают ИИ-производительность до 1300 TOPS (триллионов операций в секунду), что гораздо выше возможностей любых других конкурентных решений.

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
Исследование: поиск информации в Google может подавлять креативность 15 мин.
Цукерберг снова обещает революцию — ИИ-амбиции Meta напомнили о провале метавселенной 17 мин.
«Ростелеком» нацелился создать конкурента Steam и VK Play, в том числе для российской игровой консоли 2 ч.
«Блокнот» спустя 43 года освоил жирный шрифт и курсив 2 ч.
Создатели The Elder Scrolls Online готовили смесь Destiny и «Бегущего по лезвию» — Фил Спенсер не мог оторваться от игры, но её всё равно отменили 3 ч.
Представлен российский сервер Java-приложений WildBoss Pro, способный заменить IBM WebSphere Application Server и Oracle GlassFish Server 4 ч.
Надёжный инсайдер: Techland отменила амбициозную фэнтезийную RPG, но занялась новой Call of Juarez 4 ч.
После ухода генерального директора Илья Суцкевер был вынужден возглавить основанный им стартап Safe Superintelligence 5 ч.
Конец эпохи: Intel закрыла приложение Unison для синхронизации ПК и смартфонов 10 ч.
Минюст США убедил Google и Apple не блокировать TikTok, пообещав их не штрафовать 10 ч.
Китайская Envision устроила пожар в системе хранения энергии, чтобы доказать её устойчивость к распространению огня 3 мин.
«Инферит» представил российские GPU-серверы с СЖО на платформах AMD и Intel 17 мин.
Петабит на пару: японская NICT поставила очередной рекорд скорости передачи данных по оптоволокну 21 мин.
Раскрыты российские цены GeForce RTX 5050 — не такая уж бюджетная 35 мин.
YADRO представила обновление операционной системы для коммутаторов Kornfeld 2 ч.
Xiaomi рассказала, как электромобиль Xiaomi YU7 позаботится о женщинах, питомцах и пользователях iPhone 2 ч.
Apple собиралась создать конкурента AWS и Azure, но облачный проект ACDC завис в воздухе 2 ч.
Китайская многоразовая ракета выполнила «петлю Нестерова» — пока только в симуляции 2 ч.
Tesla построила «оазис» для электромобилей — полностью автономную зарядную станцию Oasis Supercharger 2 ч.
Мировые поставки умных часов падают уже пять кварталов к ряду — сильнее всего у Apple и Samsung 3 ч.