Компания xAI под руководством Илона Маска (Elon Musk), специализирующаяся на разработке искусственного интеллекта (ИИ), объявила об официальном открытии исходного кода своей большой языковой модели (LLM) Grok-1. Это решение, анонсированное Маском за несколько дней до публикации, стало значимым шагом в сторону увеличения прозрачности и доступности ИИ.

Источник изображения: xAI

В прошлый понедельник Маск пообещал открыть исходный код своего саркастичного и раскованного ИИ-чат-бота Grok, и уже в воскресенье компания xAI выполнила это обещание. «Мы рады представить базовые веса и архитектуру Grok-1, нашей передовой языковой модели», — сообщила xAI на своём официальном сайте. Grok-1 является моделью на основе метода «Смешение экспертов» (Mixture-of-Experts) с архитектурой, включающей 314 млрд параметров, разработанной с нуля командой xAI.

Опубликованная модель Grok-1 представляет собой неадаптированный базовый набор данных из стадии предварительного обучения, завершившейся в октябре 2023 года. Это означает, что модель не была дополнительно настроена под конкретные задачи, такие как ведение диалогов. xAI обеспечивает доступ к модели под лицензией Apache 2.0, что подчёркивает её стремление к поддержке открытых исследований в области ИИ.

На социальной платформе X аккаунт Grok, реагируя на заявление Маска об открытом доступе к коду Grok, сделал шутливое замечание о разглашении своих «весов», что спровоцировало добродушный диалог с аккаунтом ChatGPT. В ответ на эту перепалку, Маск поинтересовался, насколько OpenAI соответствует своему названию «открытый ИИ», тем самым подчеркнув вопрос прозрачности в сфере ИИ.

В январе текущего года Маск опроверг слухи о том, что xAI ищет инвестиции, уточнив, что не проводил никаких переговоров по этому вопросу. Основав xAI в июле прошлого года как конкурента OpenAI и другим компаниям в этой сфере, Маск уже в ноябре запустил ИИ-чат-бота Grok, намереваясь изменить текущий ландшафт ИИ-индустрии.

Решение об открытии исходного кода Grok последовало за критикой Маска в адрес OpenAI — стартапа, в создании которого он когда-то участвовал. Он также обратился в суд с иском против OpenAI и её сооснователей — Сэма Альтмана (Sam Altman) и Грега Брокмана (Greg Brockman), обвинив их в отступлении от изначальных целей стартапа, выборе пути коммерциализации и закрытости, особенно после того, как OpenAI привлекла инвестиции корпорации Microsoft на сумму $1 млрд в 2019 году и $10 млрд в 2023 году. В ответ на эти обвинения OpenAI заявила, что Маск поддержал переход OpenAI на коммерческие рельсы ещё в 2015 году.

Открытие исходного кода ИИ-чат-бота Grok компании xAI знаменует новый этап в развитии сферы ИИ, акцентируя внимание на важности открытости и доступности передовых технологий для всего человечества. Этот шаг не только способствует усилению исследовательской работы, но и поднимает вопросы о будущем коммерциализации и этичности в индустрии ИИ, выдвигая xAI и Маска в качестве ключевых игроков в диалоге о будущем этой технологии.

Конфликт миллиардера Илона Маска (Elon Musk) с основателями OpenAI вокруг гуманистических ценностей в сфере искусственного интеллекта привёл к достаточно неожиданным последствиям. Основанный Маском стартап xAI пообещал открыть исходный год своего чат-бота Grok на этой неделе. Примечательно, что частным пользователям X доступ к этому чат-боту предоставляется за $16 в месяц.

Источник изображения: xAI

Если xAI опубликует исходный год своего чат-бота Grok, то этот стартап присоединится к ряду компаний, которые это уже сделали, причём среди них оказалась запрещённая в РФ компания Meta✴ Platforms Марка Цукерберга (Mark Zuckerberg). Французский стартап Mistral также вошёл в число сторонников открытия свободного доступа к исходному коду своего чат-бота.

Илон Маск давно продвигает идею свободного доступа к разработкам принадлежащих ему компаний. Многие из патентов Tesla с 2014 года доступны для использования всем желающим, хотя на практике выясняется, что использовать их безвозмездно всё же не получится. Как тогда отмечалось, на такой шаг Tesla пошла из стремления ускорить переход на электромобили. В прошлом году принадлежащая Маску социальная сеть X раскрыла часть исходного кода своих программных алгоритмов. Теперь к ним присоединится и стартап xAI, который работает в сфере систем генеративного искусственного интеллекта.

На этой неделе владелец соцсети X Илон Маск (Elon Musk) объявил, что её платные подписчики получат ранний доступ к ИИ-боту Grok от xAI, который позиционируется как конкурент OpenAI ChatGPT. В дополнение к этому на официальном сайте xAI разработчики рассказали о преимуществах нового алгоритма, а также опубликовали данные по результатам тестирования собственной нейросети в ИИ-бенчмарках.

Источник изображений: xAI

«Grok — это искусственный интеллект, созданный по образцу путеводителя «Автостопом по галактике» и предназначенный для того, чтобы отвечать практически на всё и, что гораздо сложнее, даже подсказывать, какие вопросы задавать! Grok создан для того, чтобы остроумно отвечать на вопросы, и у него есть бунтарская жилка, поэтому, пожалуйста, не используйте его, если ненавидите юмор», — говорится в сообщении разработчиков.

Чат-бот xAI визуально напоминает аналогичные продукты других разработчиков. Для взаимодействия с ним предлагается использовать соответствующее поле для формирования запросов. По словам разработчиков, главное преимущество Grok заключается в том, что он способен ответить практически на любой вопрос благодаря доступу к данным соцсети X в режиме онлайн.

Разработка алгоритма началась с создания прототипа большой языковой модели (LLM) Grok-0 с 33 млрд параметров. Эта тестовая модель по своим возможностям сопоставима с показателями LLaMA 2 от Meta✴ Platforms в стандартных тестах, но использует при этом только половину своих обучающих ресурсов. За последние два месяца разработчики сумели добиться существенных улучшений в плане возможностей логического анализа и кодирования, что привело к созданию значительно более мощной языковой модели Grok-1.

Результаты дальнейшего тестирования LLM при выполнении разных задач были сопоставлены с результатами других подобных алгоритмов. Разработчики проверили возможности Grok-1 при решении математических задач для средней школы (GSM8k), ответах на вопросы разной тематики с множественным выбором (MMLU), а также решении задач по написанию кода на Python и задач по математике для старшей школы.

На данном этапе оценить преимущества и недостатки ИИ-бота Grok могут некоторые премиальные подписчики платформы X. Когда алгоритм получит более широкое распространение, пока неизвестно.