Meta✴ не будет открывать исходный код всех своих ИИ-моделей «суперинтеллекта» — это не безопасно

Meta✴ может изменить свой подход к публикации исходного кода ИИ-моделей, включая так называемый «персональный суперинтеллект». По словам гендиректора компании Марка Цукерберга (Mark Zuckerberg), не у всех разработок будет открытый исходный код, потому что это небезопасно. Его слова приводит TechCrunch.

«Мы считаем, что преимуществами суперинтеллекта нужно делиться со всем миром как можно более широко, однако суперинтеллект ставит новые вопросы безопасности, — написал Цукерберг в письме. — Эти проблемы нужно тщательно контролировать, а к открытому исходному коду нужно относиться внимательно».

Это может говорить о смене прежнего курса компании, когда именно открытый исходный код моделей Llama преподносился как ключевое преимущество Meta✴ над конкурентами, такими как ChatGPT и Google DeepMind.

Правда, при этом Цукерберг допускал, что готов отказаться от открытого формата в случае каких-либо новых угроз со стороны ИИ. «Если модель приобретёт качественно новые способности, и мы решим, что открывать её будет безответственно, мы не будем этого делать», — говорил он также в прошлом году в одном из подкастов.

Ещё в 2024 году Цукерберг заявлял: «Начиная со следующего года мы рассчитываем, что модели Llama станут самыми совершенными в индустрии». Эти модели должны были демонстрировать преимущества открытого ПО. Однако тестирование последней открытой версии Llama, Behemoth, недавно были приостановлены, вместо этого началась разработка закрытой модели.

Meta✴ активно инвестирует в ИИ: только в прошлом месяце она вложила $14,3 млрд в Scale AI. На работу в Meta✴ перешёл основатель и гендиректор Scale, в структуре компании появилось подразделение Meta✴ Superintelligence Labs, отвечающее за «суперинтеллект». Meta✴ потратила миллиарды на переманивание ведущих разработчиков и специалистов из лучших ИИ-компаний и создание дата-центров.

Видимо, теперь подход Meta✴ к открытым и закрытым моделям станет более сбалансированным, будут выходить и те, и другие. В ответ на запрос TechCrunch представитель Meta✴ сообщил: «Мы рассчитываем, что в будущем будем работать с комбинацией открытых и закрытых моделей».