Nvidia представила NIM — пакет ПО и сервисов для развёртывания ИИ

Компания Nvidia представила на конференции Siggraph в Денвере (США, шт. Колорадо) пакет продуктов NIM (Nvidia Inference Microservices), который призван упростить процесс развёртывания продуктов на основе искусственного интеллекта на предприятиях.

Источник изображения: nvidia.com

Запуск систем генеративного ИИ на собственных ресурсах требует настройки оборудования, ПО и поиска информации — соответствующими компетенциями обладают не все компании, и Nvidia предлагает помощь в решении этого вопроса за определённую плату. Чипы Nvidia составляют основу в развитии большинства систем, обеспечивающих работу ИИ. Благодаря этому компания за минувший год удвоила свой доход и, как ожидается, удвоит его и в этом.

Пакет NIM, включающий ПО и сопутствующие сервисы, входит в продукт Nvidia AI Enterprise, стоимость которого составляет $4500 за используемый графический процессор в год. ПО и сервисы предназначены для работы на оборудовании Nvidia. «Nvidia NIM — комплексное решение для развёртывания генеративного ИИ, упрощённое для разработчиков, но созданное для приложений с поддержкой масштабирования», — пояснила Кари Бриски (Kari Briski), вице-президент Nvidia по управлению продуктами для комплектов разработки ПО под ИИ и HPC.

В предварительной версии NIM были доступны около 100 микросервисов вывода систем ИИ — сейчас компания уже выпустила финальный вариант продукта. К примеру, сервисы Getty Images помогают в генерации изображений высокого разрешения, повышая качество интерпретации текстовых запросов. Генератор трёхмерных изображений Shutterstock Edify поддерживает в качестве запросов как текст, так и картинки. ПО и сервисы от Nvidia, например, помогут в создании виртуальных миров для Apple Vision Pro. А технология цифровых двойников поможет в обучении управляющих роботами компьютеров сделать машины более похожими на человека, избавив разработчиков от необходимости делать это вручную.