Сегодня 22 мая 2025
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

Nvidia втрое ускорила работу ИИ на видеокартах GeForce RTX

Nvidia сообщила, что дополнительно увеличила ИИ-производительность своих видеокарт GeForce RTX и платформ RTX AI PC с выпуском последнего драйвера версии GeForce Game Ready 555.85 WHQL. В ходе конференции Microsoft Build компания Nvidia анонсировала ряд новых оптимизаций производительности для алгоритмов искусственного интеллекта, которые теперь доступны в рамках экосистемы RTX, включая графические процессоры GeForce RTX, рабочие станции и ПК.

 Источник изображений: Nvidia

Источник изображений: Nvidia

Nvidia отмечает, что последние оптимизации нацелены на ускорение работы ряда больших языковых моделей (LLM) использующихся генеративным ИИ. Новый драйвер Nvidia версии 555 обеспечивает видеокартам GeForce RTX и платформам RTX AI PC трёхкратный прирост ИИ-производительности при работе с фреймворками ONNX Runtime (ORT) и DirectML. Оба инструмента используются для запуска ИИ-моделей в среде операционной системы Windows.

Кроме того, новый драйвер увеличил производительность программного интерфейса WebNN для DirectML, который используется веб-разработчиками для размещения новых ИИ-моделей. Nvidia сообщает, что сотрудничает с Microsoft над дальнейшим повышением производительности графических процессоров RTX и добавлением поддержки DirectML в PyTorch. Ниже приведен полный список возможностей, которые предлагаются свежим драйвером Nvidia R555 для графических процессоров GeForce RTX и ПК с RTX:

  • поддержка метакоманды DQ-GEMM для обработки квантования INT4 только по весу для LLM;
  • новые методы нормализации RMSNorm для моделей Llama 2, Llama 3, Mistral и Phi-3;
  • механизмы группового и многозапросного внимания, а также внимания скользящего окна для поддержки Mistral;
  • обновления KV для улучшения внимания;
  • поддержка GEMM-тензоров, не кратных 8, для улучшения производительности контекстной фазы.

В тестах производительности ORT, генеративного расширения искусственного интеллекта, выпущенного Microsoft, новый драйвер Nvidia приводит к приросту производительности по всем направлениям, как для типов данных INT4, так и для FP16. Благодаря методам оптимизации, добавленным в это обновление, производительность больших языковых моделей Phi-3, Llama 3, Gemma и Mistral увеличивается до трёх раз.

Nvidia также напоминает, что преимущество экосистемы RTX заключается в использовании возможностей воспроизводительных тензорных ядер. На их основе работают DLSS Super Resolution, Nvidia Ace, RTX Remix, Omniverse, Broadcast, RTX Video и другие технологии. Кроме того, для использования тензорных ядер в ускорении работы ИИ компания предлагает комплекты разработчиков TensorRT, Maxine и RTX Video.

В своём пресс-релизе Nvidia сообщает, что её GPU обеспечивают ИИ-производительность до 1300 TOPS (триллионов операций в секунду), что гораздо выше возможностей любых других конкурентных решений.

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
Объявлены системные требования MindsEye — для комфортной игры в сюжетный боевик от студии экс-продюсера GTA нужна RTX 4070 47 мин.
Telegram наконец перестал быть убыточным — годовая выручка взлетела в четыре раза до $1,4 млрд 2 ч.
The Elder Scrolls IV: Oblivion Remastered значительно превзошла оригинальную Oblivion по продажам в США за первый месяц 2 ч.
Microsoft добавила в Game Pass более 60 классических игр Activision, и «это только начало» 4 ч.
Spotify увеличила число подписчиков на iOS после разрешения внешних платежей 9 ч.
В Google разработали инструмент для выявления контента, сгенерированного ИИ 10 ч.
Google начала наполнять ИИ-поиск AI Mode неотключаемой рекламой 12 ч.
«Вы не Bethesda, ребята»: соруководитель CD Projekt рассказал, как во время разработки The Witcher 3 партнёры «прямо говорили, что не верят в нас» 15 ч.
Журналисты показали 50 минут геймплея дополнения Lies of P: Overture — зоопарк врагов, новые режимы и уровни сложности 17 ч.
Криптобиржа Coinbase признала утечку персональных данных не менее 69 000 клиентов 18 ч.
Ажиотаж вокруг ИИ разгоняет мировые поставки чипов — в первом квартале они подскочили на 23 % 10 мин.
Качество домашнего Wi-Fi может упасть в ближайшие пять лет — ресурс диапазона 6 ГГц почти исчерпан 14 мин.
Импорт процессоров в Россию будто упал на 95 %, но на деле всё иначе 16 мин.
ASRock Rack показала серверы NVIDIA HGX B300 и систему XGMRACK GB300 NVL72 54 мин.
На пути к гигаватту: Nebius увеличит капитальные затраты в 2025 году до $2 млрд 2 ч.
Число Пи вычислили до 300-триллионного знака — это заняло 191 день и до 1,5 Пбайт на SSD 2 ч.
Серверный процессор Qualcomm получит 80 ядер Oryon, поддержку NVLink Fusion, PCIe 5.0 и памяти HBM 3 ч.
Zalman представила процессорные кулеры ZET, вдохновлённые авиационными двигателями 3 ч.
Lenovo отчиталась о подскочивших продажах серверов, но прибыль рухнула на 64 % 4 ч.
Репортаж со стенда MSI на выставки Computex 2025: ретро-видеокарты, флагманские материнские платы и не только 4 ч.