Nvidia разрабатывает открытую ИИ-модель Nemotron 4 с 1 трлн параметров

Nvidia решила бросить вызов мировым разработчикам моделей искусственного интеллекта с открытыми весами. Оружием компании в борьбе на новом поле станет обновлённое семейство моделей Nemotron 4, работа над которыми уже ведётся, сообщает The Information.

Крупнейший в мире производитель ИИ-ускорителей входит в число немногих крупных американских компаний, выпускающих модели с открытым исходным кодом — эти системы в последнее время привлекают к себе всё больше внимания на фоне роста цен на ИИ и появления недорогих китайских моделей, которые по возможностям приближаются в лучшим системам американских лабораторий Anthropic и OpenAI. Недавняя серия взломов со стороны вышедших из-под контроля ИИ-агентов усугубила ситуацию, потому что открытые модели не имеют ограничений в сфере кибербезопасности.

Самая крупная модель Nvidia семейства Nemotron 4 будет иметь не менее 1 трлн параметров. Дата выпуска систем нового поколения пока неизвестна — компания ещё не завершила их финальное обучение, но выйти они могут уже в конце осени текущего года. В июле компания сформировала альянс для обеспечения безопасности при разработке открытых ИИ-моделей. Nvidia также подписала открытое письмо в поддержку открытых моделей — их запрет грозит США утрате инициативы в отрасли ИИ; письмо подписали и другие технологические гиганты, в том числе Microsoft.

Накануне Nvidia выпустила открытую модель Nemotron 3.5 Lightning и библиотеку маршрутизации моделей NeMo Switchyard — тоже с открытым исходным кодом.