Кустарные ИИ-ускорители из GeForce RTX 4090 набрали популярность в Китае — их производство подскочило в разы

Популярность флагманской игровой видеокарты GeForce RTX 4090 в качестве «полуфабриката» для изготовления кустарного ускорителя вычислений в Китае в прошлом году была так велика, что она попала под санкции США. Источники утверждают, что в декабре популярность кустарно изготовленных ускорителей в Китае только возросла, и для местных разработчиков подобное временное решение кажется вполне приемлемым.

По информации Financial Times, в Китае продолжают работать целые предприятия, которые специализируются на переделке игровых видеокарт NVIDIA в ускорители вычислений неопределённой модели, которые можно использовать для тренировки больших языковых моделей. В своей эффективности такие ускорители уступают официально выпускаемым NVIDIA, но последние с октября запрещено поставлять в Китай, а адаптированные под новые санкции H20, L20 и L2 появятся не ранее марта, как поясняет первоисточник.

Кроме того, китайские клиенты скептически оценивают перспективы указанных «официальных» ускорителей вычислений, поскольку их производительность серьёзно занижена, чего нельзя сказать о цене. Впрочем, у «игровых альтернатив» тоже есть серьёзный недостаток — они не предлагают поддержку скоростных сетевых интерфейсов, которые нужны при формировании вычислительных кластеров в серверной инфраструктуре систем искусственного интеллекта. Обучение больших языковых моделей такое ограничение серьёзно замедляет.

Так или иначе, Financial Times сообщает, что одно из специализирующихся на подобной переделке китайских предприятий в декабре увеличило объёмы выпуска продукции более чем в четыре раза по сравнению с ноябрём, и деятельность такого рода и не думает сворачиваться в условиях вступивших в силу в октябре новых ограничений США против Китая. Поясняется, что главными покупателями таких кустарных ускорителей являются либо государственные организации, либо небольшие разработчики систем искусственного интеллекта, которые не успели сделать запас полноценных ускорителей NVIDIA до вступления в силу санкций. Ежемесячно трансформации подвергаются тысячи игровых видеокарт NVIDIA.

Игровая GeForce RTX 4090D, которая на китайском рынке появилась в результате предшествующего запрета на поставку полноценной GeForce RTX 4090, на практике уступает в производительности более чем на 5 %, поэтому полуподпольные производители кустарных ускорителей вычислений пока лишь присматриваются к этой новинке. Пока не разработаны достойные китайские альтернативы импортируемым ускорителям NVIDIA, местные разработчики готовы довольствоваться и такими компромиссными решениями.

Представители NVIDIA публикацию Financial Times прокомментировали заявлением следующего содержания: «Разборка игровых видеокарт не является жизнеспособным методом создания центров обработки данных для работы с искусственным интеллектом, поскольку (игровые продукты) были разработаны, произведены и выпущены на рынок для индивидуальных любителей игр и потребителей».