Высокий спрос на ускорители вычислений Nvidia и других популярных марок сам по себе ограничивает их доступность, а в случае с китайскими разработчиками систем ИИ всё усугубляется американскими санкциями. Нет ничего удивительного, что в сложившихся условиях они предпочли опираться на ускорители местного происхождения, для DeepSeek в этом смысле подошли ускорители Sophgo.

Источник изображения: DeepSeek

По крайней мере, об их успешном применении докладывает South China Morning Post со ссылкой на заявления Sophgo. Ускорители SC11 FP300 этой компании, по данным китайской лаборатории CTTL, продемонстрировали высокое быстродействие и стабильную работу в задачах, связанных с формированием логических выводов (инференсе) при использовании большой языковой модели DeepSeek R1. Подобные задачи требуют меньших вычислительных ресурсов по сравнению с этапом обучения больших языковых моделей.

Ускоритель FP300 был выпущен Sophgo в прошлом году, он оснащается 256 Гбайт высокоскоростной памяти, обеспечивающей пропускную способность до 1,1 Тбайт/с, технически он пригоден и для обучения больших языковых моделей. В то же время, данное аппаратное решение всё же в большей мере заточено под работу с рассуждающими моделями.

Как отмечалось ранее, китайской компании DeepSeek уже пришлось задержать выпуск своей модели R2, который был намечен на май, из-за проблем с доступом к вычислительным ресурсам, необходимым для её обучения. Китайская компания iFlyTek, между тем, уже сообщила о полном переходе на ускорители вычислений Huawei. Китайские решения серии Ascend 910B позволяют добиться эффективности вычислений на уровне 73 % против 25 %, которые были доступны при использовании Nvidia A800 в конце прошлого года. Правда, миграция на китайские ускорители всё же вызвала задержку в выпуске новых языковых моделей на три месяца. Компании iFlyTek и Sophgo находятся под различными санкциями США, поэтому им невольно приходится сближаться для достижения поставленных целей в условиях внешних ограничений.

В октябре стало известно, что аналитическая компания TechInsights заподозрила китайскую компанию Sophgo в снабжении Huawei передовыми чипами Ascend 910B, которые заказывала от своего лица в производство TSMC в условиях санкций против конечного получателя. Теперь власти США готовятся добавить Sophgo в санкционный список.

Об этом стало известно Reuters с подачи осведомлённых источников, хотя представители Huawei продолжают настаивать, что перестали получать выпущенные TSMC чипы с 2020 года, а Sophgo отмечает, что после включения Huawei в санкционный список США не имела с компанией никаких прямых или косвенных связей. Из открытых источников известно, что Sophgo снабжает своей продукцией различные государственные учреждения муниципального уровня в Китае и вузы. В частности, полицейское ведомство использует компоненты Sophgo для совершенствования систем видеонаблюдения.

По всей видимости, попытки связанной с Bitmain китайской компании Sophgo доказать свою непричастность к поставкам чипов ускорителей вычислений, выпущенных TSMC, для нужд Huawei в обход экспортных ограничений США на американских чиновников действия не возымели, поскольку Sophgo на основании прошлых умозаключений готовят к включению в санкционный список. Ранее также сообщалось, что TSMC в целях профилактики подобных нарушений прекратила поставлять 7-нм и более современные чипы любым китайским клиентам, связанным со сферой искусственного интеллекта. Соответственно, TSMC также прекратила поставлять чипы и для нужд Sophgo.

На уходящей неделе самые разные источники неоднократно обсуждали события, предположительно имевшие место в предыдущие месяцы, когда уже действовали санкции США против Huawei Technologies. Источники теперь утверждают, что она получала от TSMC передовые чипы для своих ускорителей через китайскую подставную фирму, связанную с Bitmain.

Строго говоря, как отмечает Reuters со ссылкой на собственные источники и публикацию The Information, проводимое сейчас расследование, поводом для которого стали откровения экспертов TechInsights и жалоба самой TSMC, имеет основания предполагать, что китайская компания Sophgo как раз и получала от тайваньского производителя необходимые для ускорителей Huawei Ascend 910B чипы. Формально она заказывала их для себя, но когда в середине этого месяца выяснилось, что они в конечном итоге использовались компанией Huawei, тайваньская TSMC прекратила поставки заказов данному клиенту.

Официальных комментариев на этот счёт по традиции не последовало, а TSMC продолжает настаивать, что не поставляет чипы для нужд Huawei с сентября 2020 года, и не располагает информацией о проводимом расследовании, которое затрагивало бы её интересы. Китайская компания Sophgo, как выяснило агентство Reuters, основана тем же человеком, что и Bitmain — известный за пределами Китая разработчик чипов для майнингового оборудования. У них даже совпадают домены корпоративной электронной почты. Сама Bitmain обвинялась тайваньскими властями в переманивании специалистов на острове, её сообщники были оштрафованы. На сайте Sophgo сообщается, что у компании есть более 10 исследовательских центров в Китае и других странах.

Агентство Bloomberg попутно отмечает, что принявшие участие в организованных TSMC мероприятиях основатель компании Моррис Чан (Morris Chang) и действующий генеральный директор Си-Си Вэй (C.C. Wei) комментировать скандал с Huawei не стали, но высказались о тенденциях развития полупроводниковой отрасли. Отошедший от дел основатель компании заявил, что «свободная торговля в области самых передовых полупроводниковых компонентов умерла», и TSMC в таких условиях будет сложнее сохранять рост бизнеса. Он также образно выразился, что «TSMC является тем плодородным слоем почвы, который все главные державы на планете стремятся заполучить».

Си-Си Вэй на этом фоне говорил о более приземлённых вещах. Он ответил, что уверен в способности TSMC увеличить свой отрыв от конкурентов в технологической сфере. По его мнению, компания играет всё более значимую роль в мировой полупроводниковой отрасли. Строительство предприятия в Аризоне идёт по плану и без особых проблем.

Китайская компания Sophgo, занимающаяся разработкой тензорных процессоров (TPU), которые используются для обучения нейросетей, планирует организовать поставки собственной продукции для российских производителей вычислительной техники. Об этом пишет «Коммерсант» со ссылкой на источники в российских компаниях.

Источник изображения: RemazteredStudio / Pixabay

В сообщении сказано, что китайский вендор в начале текущего года начал отправлять участникам рынка предложения о сотрудничестве и создании совместного продукта на основе процессоров Sophgo. «Компания предлагает официально поставлять тензорные процессоры для нейронных сетей, а также центральные процессоры собственной разработки на открытой архитектуре RISC-V», — сообщил осведомлённый источник.

На официальном веб-сайте Sophgo сказано, что компания ведёт разработку и производит микросерверы, модули и процессоры на открытой архитектуре RISC-V. В распоряжении компании более десяти исследовательских центров, которые расположены в Поднебесной и за её пределами. Официальные представители Sophgo пока никак не комментируют вопрос возможного сотрудничества с российскими производителями вычислительной техники.

Директор «Норси-Транс» (выпускает серверы и СХД) Сергей Овчинников подтвердил факт того, что китайская компания пытается заключить партнёрство с российскими разработчиками оборудования. Однако он отметил, что у Sophgo нет разработанных под российские решения материнских плат. «Отечественным вендорам в таком случае придётся разрабатывать компоненты с нуля, что займёт минимум два года и несколько миллиардов рублей», — считает господин Овчинников.

Директор РосСХД (консорциум разработчиков систем хранения данных) Олег Изумрудов рассказал, что Sophgo преимущественно занимается процессорами для ускорения искусственного интеллекта и у компании есть собственный алгоритм работы. Аналогичные решения выпускают NVIDIA, Intel и AMD. «Сейчас рынок искусственного интеллекта находится в начальной стадии развития, как и разработка тензорных процессоров для этой технологии», — пояснил господин Изумрудов. Он также добавил, что на глобальном рынке нет единого лидера и стандарта в области программных алгоритмов и аппаратных ускорителей, в связи с чем американские и китайские разработчики «имеют одинаковые перспективы».

Генеральный директор VisionLabs Дмитрий Марков рассказал, что продукция Sophgo предназначена только для нейросетевых модулей, тогда как процессоры NVIDIA и Intel делают возможным обучение нейросетей на своих решениях. «Процессоры от Sophgo могут быть интересны российским разработчикам для запуска нейронных сетей, но доступные альтернативы существуют», — считает Дмитрий Марков. По его мнению, в России решения Sophgo могут заинтересовать «Яндекс» и «Сбер», поскольку обе компании используют искусственный интеллект в своих продуктах.