Сегодня 18 сентября 2025
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Hardware

DeepSeek разогнали до рекордной скорости всего на 16 чипах SambaNova — чипов Nvidia потребовалось бы в 20 раз больше

Стартап в области искусственного интеллекта SambaNova Systems, основанный в 2017 году выходцами из Sun, Oracle и Стэнфордского университета, объявил о создании самой быстрой в мире системы для развёртывания модели DeepSeek-R1 671B. Для оборудования Nvidia такие показатели недоступны.

 Источник изображения: sambanova.ai

Источник изображения: sambanova.ai

SambaNova добилась скорости работы DeepSeek-R1 в 198 токенов в секунду всего на 16 специально изготовленных ускорителях — аналогичного результата можно достичь, только развернув 40 стоек с 320 графическими процессорами Nvidia. «SambaNova на чипах SN40L RDU стала самой быстрой платформой для запуска DeepSeek. Это пятикратный прирост по сравнению со скоростью новейшего графического процессора на одной стойке, а к концу года мы предложим 100-кратную ёмкость для DeepSeek-R1», — пообещал соучредитель и генеральный директор SambaNova Родриго Лян (Rodrigo Liang).

Ресурсоёмкие рабочие нагрузки систем искусственного интеллекта традиционно обеспечиваются графическими процессорами Nvidia, но в SambaNova утверждают, что созданная компанией конфигурируемая архитектура потока данных представляет собой более эффективное решение. Её оборудование работает втрое быстрее и потребляет в пять раз меньше энергии, чем самые мощные из современных графических процессоров, сохраняя при этом полную вычислительную мощность модели DeepSeek-R1. Достижение подтвердили эксперты компании Artificial Analysis, которая проводит независимую оценку систем ИИ.

Открытая модель DeepSeek-R1 671B доступна в облаке SambaNova через API. Компания активно наращивает мощности и в ближайшем будущем надеется достичь общей пропускной способности в 20 000 токенов в секунду.

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
Уже не DLC, но ещё не Dying Light 3: критики вынесли вердикт Dying Light: The Beast 33 мин.
Слухи: авиасимулятор Microsoft Flight Simulator 2024 взял курс на PS5 3 ч.
В «Рувики» ИИ займётся обновлением статей и борьбой с вандалами 3 ч.
Полноэкранный интерфейс Xbox оказался доступен для всех — Asus ROG Xbox Ally теряет эксклюзивность 3 ч.
AMD выпустила драйвер с поддержкой Radeon RX 7700 и Dying Light: The Beast 3 ч.
Разработчики Hollow Knight: Silksong объяснили, почему сделали игру такой сложной 4 ч.
OpenAI остаётся только завидовать — обучение китайской модели ИИ DeepSeek R1 обошлось всего в $294 тыс. 4 ч.
С каждым годом переносить эксклюзивы PlayStation на ПК для Sony становится всё выгоднее 5 ч.
Градостроительная стратегия Frostpunk 2 вышла на консолях, а версия для ПК получила полную поддержку геймпадов 5 ч.
Split Fiction стала первой в истории игрой, удостоившейся престижной премии «Выдающийся шведский дизайн» — награду вручил принц Швеции 6 ч.
Northrop Grumman справилась с отказавшими двигателями — космогрузовик Cygnus XL долетел до МКС 2 ч.
Huawei пообещала создать «самый мощный в мире» ИИ-кластер, который в разы превзойдёт решения Nvidia 2 ч.
Учёные создали наношестерёнки размером с человеческую клетку, которые вращаются от лазера 3 ч.
AMD тайком выпустила Radeon RX 7700 с 16 Гбайт видеопамяти на 256-битной шине 4 ч.
TWS-наушники Nothing Ear (3) получили обновлённый дизайн и футляр с системой микрофонов Super Mic 4 ч.
Corsair представила ультралёгкую игровую мышь весом 36 граммов с автономностью до 70 часов 4 ч.
Акции Intel взлетели на новости об инвестициях Nvidia 4 ч.
Intel и Nvidia объявили о подготовке нескольких поколений x86-процессоров с графикой Nvidia для ПК и ЦОД 4 ч.
Oracle добавит ИИ-сервисы в облако UK Sovereign Cloud в рамках инвестиционного плана на $5 млрд 5 ч.
Стартап Carbon3.ai намерен развернуть в Великобритании экологичную суверенную ИИ-инфраструктуру 6 ч.