MWC 2018
2018
Computex
IFA 2018
Стартап в области искусственного интеллекта Nous Research без громких анонсов представил семейство больших языковых моделей искусственного интеллекта Hermes 4, способных, по словам разработчика, сравниться с ведущими закрытыми аналогами. Пользователю предлагается всесторонний контроль над ИИ, который в исходном виде почти лишён цензурных ограничений.
Источник изображений: Nous Research
В отличие от аналогов в исполнении OpenAI, Google или Anthropic, модель Hermes 4 разрабатывалась для работы с практически любыми запросами без введённых в целях безопасности ограничений, ставших стандартными для коммерческих систем. Hermes 4 работает с использованием механизма гибридных рассуждений, позволяющего пользователю переключаться между быстрыми ответами и глубокими, пошаговыми мыслительными процессами ИИ. При работе ход рассуждений заключается в теги <think> — схожим образом работает OpenAI o1, но в случае моделей от Nous Research обеспечивается полная прозрачность «мыслительного» процесса.
В тесте MATH-500 с активным режимом рассуждений крупнейшая в семействе модель Hermes 4 с 405 млрд параметров набрала 96,3 % и 81,9 % в математическом бенчмарке AIME’24 — не хуже, а то и лучше многих закрытых систем, разработка которых обошлась в миллионы долларов. Она также показала результат 57,1 % в новом тесте RefusalBench, который Nous Research разработала самостоятельно для измерения частоты отказа систем ИИ отвечать на вопросы; GPT-4o показала в нём 17,67 %, Claude Sonnet 4 — 17 %.
Важным нововведением стало применение двух новых обучающих систем: DataForge — генератора синтетических данных на основе графов; и Atropos — фреймворка обучения с подкреплением. В DataForge производятся «случайные блуждания» по ориентированным графам и осуществляются преобразования простых исходных данных в сложные ответы на основе инструкций. Так, система может взять статью из «Википедии» и превратить её в рэп-стихи, а затем сгенерировать вопросы и ответы на основе этого преобразования. Atropos работает как несколько сотен обучающих сред, в которых ИИ отрабатывает определённые навыки — математику, программирование, работу с инструментами и творческие задания; обратная связь поступает только в случае принятия правильных решений. В обучающие данные попадают только проверенные и высококачественные ответы.
При обучении использовались 3,5 млн примеров, требующих рассуждений, и 1,6 млн примеров без рассуждений. Потребовались 192 ИИ-ускорителя Nvidia B200 и 71 616 GPU-часов, то есть при полной загрузке потребовались около 15,5 дня. Nous Research намеренно не стала включать средства цензуры в свои модели, исходя из того, что пользователь должен решать данный вопрос самостоятельно, и это важнее корпоративных политик в отношении контента.
Важным техническим достижением стало решение проблемы со слишком большим объёмом рассуждений. Авторы Hermes 4 обнаружили, что младшая модель с 14 млрд параметров в 60 % случаев рассуждений достигала максимальной длины контекста, попадая, таким образом, в бесконечный цикл. Поэтому на втором этапе обучения модель получила навык останавливать процесс рассуждения на позиции 30 000 токенов. Это помогло сократить число таких инцидентов на значение 65–79 % — при этом качество ответов удалось преимущественно сохранить.
Но некоторые ограничения, характерные для открытых моделей, Nous Research преодолеть не смогла. Несмотря на достойные результаты тестов, модели Hermes 4 требуют значительных вычислительных ресурсов, а пользоваться ими сложнее, чем коммерческими системами. Веса моделей можно бесплатно загрузить с платформы Hugging Face; есть доступ к API через обновлённый интерфейс чата; разработчик также заручился поддержкой Chutes, Nebius и Luminal — компаний, которые специализируются на выводе ИИ.
Hermes 4 — новый кандидат на звание взявшегося ниоткуда перспективного игрока, представляющего альтернативу крупным компаниям. Особый интерес представляет отсутствие ограничений по контенту — Nous Research настаивает, что прозрачность и свобода для пользователя важнее корпоративных ценностей.
Источник:
