Meta✴ отстала в гонке ИИ и пока не сможет догнать лидеров, так как тренирует нейросети на CPU

Meta✴ занимается разработкой собственного генеративного ИИ, однако компания приступила к этом слишком поздно из-за зацикленности главы Meta✴ Марка Цукерберга (Mark Zuckerberg) на идее метавселенной. Кроме того у компании не оказалось подходящей для этого аппаратной инфраструктуры — компания сейчас вынуждена использовать для ИИ системы на CPU вместо решений на GPU. В итоге проект будет реализовываться долго.

Источник изображения: NVIDIA

Гигант соцсетей давно и крупно инвестирует в исследования, связанные с ИИ. Однако он не спешил внедрять дорогостоящие аппаратные и программные системы для работы с ИИ, что теперь ограничивало его способность идти в ногу с масштабными инновациями.

По словам пяти источников издания Reuters, главной проблемой Meta✴ сейчас является отсутствие в её распоряжении ускорителей вычислений на базе GPU, из-за чего пока что приходится использовать имеющиеся в её дата-центрах системы на центральных процессорах. CPU хорошо подходят для задач, связанных с работой соцсетей, но плохо выполняют работу, связанную с ИИ. В свою очередь графические процессоры идеально подходят для тренировки нейросетей и работы ИИ, поскольку они могут выполнять большое количество задач одновременно, сокращая время, необходимое для обработки миллиардов фрагментов данных.

Meta✴ разрабатывала собственные ускорители вычислений, которые подошли бы для ИИ, но их крупномасштабное развёртывание, которое было запланировано на 2022 год, в итоге остановили. После этого в прошлом году руководство Meta✴ разместило заказы на графические процессоры NVIDIA на этот год на миллиарды долларов. Однако этим решения ещё не введены в строй, и таким образом Meta✴ приходится работать на том, что есть.

Получается, что компания на несколько шагов отстала от конкурентов, таких как Google, которая ещё в 2015 году начала развёртывание собственных ускорителей вычислений TPU, или Microsoft, которая вложила миллиарды в OpenAI и предоставила ей свою облачную инфраструктуру на базе GPU от NVIDIA. В итоге, ИИ-чат-бот OpenAI ChatGPT стал самым быстрорастущим потребительским приложением в истории после своего дебюта, вызвав гонку среди технологических гигантов за выпуск продуктов с генеративным ИИ.

При этом Meta✴ не намерена сдаваться и пытается нагнать конкурентов в гонке ИИ. Сообщается, что Meta✴ строит планы по запуску разработки нового, более амбициозного собственного чипа, который, как и GPU, будет способен как обучать модели ИИ, так и поддерживать работу уже готовых нейросетей.

В феврале Цукерберг объявил о создании новой команды высшего уровня по генеративному ИИ, которая, по его словам, «ускорит» работу компании в этой области. В этом месяце главный технический директор Эндрю Босворт (Andrew Bosworth) также заявил, что генеративный ИИ — это область, которой он и Цукерберг уделяют больше всего времени, и предсказал, что Meta✴ выпустит ИИ-продукт в этом году.

Два источника, знакомых с новой командой, сказали, что работа находится на ранних стадиях и сосредоточена на создании базовой модели, основной программы, которая впоследствии может быть доработана и адаптирована для различных продуктов. Другой представитель Meta✴ сказал, что компания занимается созданием продуктов генеративного ИИ в разных командах уже более года. Он подтвердил, что работа ускорилась в течение нескольких месяцев после прихода ChatGPT.