MWC 2018
2018
Computex
IFA 2018
Компания Nvidia представила три ИИ-модели семейства Nemotron, которые ориентированы на выполнение агентных задач и не только. Большая языковая модель сочетает языковое и визуальное понимание, а две модели меньшего размера предназначены для того, чтобы стать основой для локальных агентов.
Источник изображений: Nvidia
Nemotron 3.5 Super VL — это открытая модель со 120 млрд параметров, которая, по заявлению Nvidia, может работать с PDF-файлами, графиками, таблицами, изображениями и веб-страницами, следуя инструкциям и используя доступные инструменты.
Nemotron 3.5 Bolt 74B-A9B 24GB оптимизирована для локального запуска агентов. Она содержит 74 млрд параметров, но из них активными остаются около 9 млрд параметров. Модель умещается в 24 Гбайт памяти, что делает возможным её локальный запуск на подходящем оборудовании. Алгоритм ориентирован на генерацию программного кода, проведение исследований и выполнение других многошаговых задач.
Nemotron E4B 4GB — это более лёгкая ИИ-модель, предназначенная для разговорных агентов и других локальных инструментов. Запуск этой версии алгоритма запланирован на 23 октября.
Потенциальная ценность для корпоративных клиентов заключается в возможности адаптировать ИИ-модель для работы со своими документами в соответствии с устоявшимися процессами, а затем выбрать, где она будет работать. Nvidia заявила, что организации могут самостоятельно дообучать Nemotron 3.5 Super VL на своих данных, инструментах и политиках, а также развёртывать алгоритм на инфраструктуре, соответствующей их требованиям к безопасности и местонахождению данных. Версии Bolt предлагают более компактный вариант для поддержки определённых агентных нагрузок на локальных системах.
Nemotron Super VL является не первой ИИ-моделью Nvidia, которая предназначена для работы с визуальными данными. Выпущенная ранее Nemotron Nano 2 VL умела анализировать документы и изображения. В апреле вышла Nemotron 3 Nano Omni с 30 млрд параметров, которая объединила работу с текстом, изображениями, аудио и видео.
Главное изменение в том, какое место понимание визуальных данных занимает в линейке ИИ-моделей Nvidia. В марте компания выпустила Nemotron 3 Super со 120 млрд параметров, ориентированную на выполнение агентных задач, а затем более мощную Nemotron 3 Ultra для более требовательных сценариев использования. В августе вышла Nemotron 3.5 Lightning, ориентированная на выполнение повторяющихся шагов в длинных агентных рабочих процессах. Новая модель Super VL переносит возможности анализа документов и изображений на уровень крупной модели линейки Super, тогда как модели Bolt расширяют варианты для локального развёртывания. Такое сочетание может упростить проектирование ИИ-агентов.
Nvidia заявила, что десятки организаций проводят пост-обучение модели Super VL под свои задачи. Компания уточнила, для чего партнёры дообучают модель, а не используют исходный вариант нейросети. На приведённой ранее диаграмме можно увидеть результаты по пяти отдельным направлениям: анализ документов, устойчивость к кибератакам, извлечение данных из финансовых документов, помощь в научных экспериментах и обработка заявок по медицинскому страхованию. Светло-зелёная часть каждого столбца отображает результат базовой версии Super VL, а тёмно-зеленая — прирост после дообучения. Улучшения варьируются от 9 % до 44 % по упомянутым задачам. Во всех случаях специализированная версия алгоритма превосходит упомянутые ранее версии Claude и GPT.
В задаче по обработке заявок на медицинское страхование зафиксирован самый большой прирост относительно базовой версии модели. Точность выросла примерно с 28 % до 72 % после дообучения, тогда как у Claude Opus 5 в этой же категории точность только 38 %. Устойчивость перед разными сценариями кибератак после дообучения выросла с 35 % до 76 % (у GPT-6.1 Sol этот показатель равен 66 %).
Важно понимать, что речь идёт о разных кастомизированных версиях ИИ-модели, которые были настроены на выполнение узкоспециализированных задач. Поэтому нельзя сказать, что базовая версия Super VL в целом превосходит передовые ИИ-модели конкурентов.
Источник:
