ИИ-модели семейства Nemotron с открытыми весами компания Nvidia продвигает с прошлого года, но недавно оно пополнилось версией 3.5 Lightning, которая предлагает открытый исходный код и для своей работы способна довольствоваться вычислительными ресурсами единственного GPU, расположенного в ноутбуке или настольном ПК.
Источник изображения: Nvidia
В конце июля, как напоминает CNBC, основатель и генеральный директор Nvidia Дженсен Хуанг (Jensen Huang) со страниц социальной сети X выступил в поддержку ИИ-моделей с открытым исходным кодом, обозначив собственную позицию в вопросе, который начинает занимать умы многих представителей отрасли. Теперь, менее трёх недель спустя, его компания представила «легковесную» модель Nemotron 3.5 Lightning, которая обходится единственным GPU. Корпоративные клиенты Nvidia могут свободно скачивать эту модель, использовать её и модифицировать без согласования с ней.
Выгода Nvidia заключается в том, что клиентам для работы с Nemotron 3.5 Lightning всё равно потребуется графический процессор в составе ускорителя вычислений или даже игровой видеокарты, а их она продаёт за немалые деньги. В прошлом месяце Дженсен Хуанг заявил, что «бесплатный ИИ пойдёт на пользу аппаратному обеспечению и чипам». По мнению основателя Nvidia, модели с открытыми весами позволяют компаниям лучше контролировать своё будущее, стимулируют конкуренцию и снижают цены. Кроме того, они усиливают сферу кибербезопасности и суверенитет целых стран. Nvidia присоединилась к консорциуму вместе с Microsoft, который будет продвигать использование открытых моделей и ПО с открытым исходным кодом в сфере кибербезопасности.
Недавно в поддержку моделей с открытым исходным кодом выступил и основатель Meta✴ Platforms Марк Цукерберг (Mark Zuckerberg). Он считает, что подобные модели американской разработки должны стать лучшими в мире. Возвращаясь к Nemotron 3.5 Lightning, следует добавить, что Nvidia ориентирует её на создание агентских приложений. Её уже протестировали и адаптировали для своих нужд CrowdStrike, CodeRabbit и Harvey. Эта модель будет доступна как на Hugging Face, так и на собственном сайте Nvidia. Компания также предлагает утилиту NeMo Switchyard, которая позволяет определить оптимальную ИИ-модель для решения конкретной задачи. Свою легковесную модель 3.5 Lightning специалисты Nvidia усилили возможностям старших представителей семейства Nemotron через дистилляцию.