Сегодня 31 июля 2025
18+
MWC 2018 2018 Computex IFA 2018
реклама
Теги → sambanova systems

DeepSeek разогнали до рекордной скорости всего на 16 чипах SambaNova — чипов Nvidia потребовалось бы в 20 раз больше

Стартап в области искусственного интеллекта SambaNova Systems, основанный в 2017 году выходцами из Sun, Oracle и Стэнфордского университета, объявил о создании самой быстрой в мире системы для развёртывания модели DeepSeek-R1 671B. Для оборудования Nvidia такие показатели недоступны.

 Источник изображения: sambanova.ai

Источник изображения: sambanova.ai

SambaNova добилась скорости работы DeepSeek-R1 в 198 токенов в секунду всего на 16 специально изготовленных ускорителях — аналогичного результата можно достичь, только развернув 40 стоек с 320 графическими процессорами Nvidia. «SambaNova на чипах SN40L RDU стала самой быстрой платформой для запуска DeepSeek. Это пятикратный прирост по сравнению со скоростью новейшего графического процессора на одной стойке, а к концу года мы предложим 100-кратную ёмкость для DeepSeek-R1», — пообещал соучредитель и генеральный директор SambaNova Родриго Лян (Rodrigo Liang).

Ресурсоёмкие рабочие нагрузки систем искусственного интеллекта традиционно обеспечиваются графическими процессорами Nvidia, но в SambaNova утверждают, что созданная компанией конфигурируемая архитектура потока данных представляет собой более эффективное решение. Её оборудование работает втрое быстрее и потребляет в пять раз меньше энергии, чем самые мощные из современных графических процессоров, сохраняя при этом полную вычислительную мощность модели DeepSeek-R1. Достижение подтвердили эксперты компании Artificial Analysis, которая проводит независимую оценку систем ИИ.

Открытая модель DeepSeek-R1 671B доступна в облаке SambaNova через API. Компания активно наращивает мощности и в ближайшем будущем надеется достичь общей пропускной способности в 20 000 токенов в секунду.


window-new
Soft
Hard
Тренды 🔥
Инсайдер раскрыл планы Electronic Arts на открытую «бету» Battlefield 6 — когда тестирование и как получить ранний доступ 11 ч.
«Абсолютно нормальное» обновление на радость фанатам добавило в инди-хит Peak каннибализм 12 ч.
Google выпустила экстренное обновление для Chrome, закрывшее опасную уязвимость 14 ч.
Devil May Cry 5 стала самой продаваемой игрой квартала для Capcom, а Monster Hunter Wilds весь запал растеряла 14 ч.
ИИ-приложения захватили смартфоны и удвоили выручку — ChatGPT уже дышит в затылок Google 14 ч.
Google заявила, что Великобритания не требовала от неё создать бэкдор в облаке — в отличие от Apple 15 ч.
Тысячи камер Hikvision остаются уязвимы ко взлому почти год — доступ к ним активно продают в даркнете 15 ч.
TikTok запустил систему проверки фактов и новые инструменты родительского контроля 15 ч.
Генерация кадров и востребованные функции: для Clair Obscur: Expedition 33 вышло крупное обновление 15 ч.
Завтра пройдёт презентация Nintendo Direct: Partner Showcase — фанаты ждут Hollow Knight: Silksong и Red Dead Redemption 2 16 ч.
Выделение сетевого бизнеса Intel в отдельную компанию угрожает бизнесу Ericsson и других поставщиков 5G-решений 16 мин.
Огорчив инвесторов квартальным отчётом, Arm всё же призналась, что размышляет о выпуске собственных чипов 57 мин.
Qualcomm разочаровала инвесторов размером выручки от реализации мобильных чипов 2 ч.
Прибыль Samsung на полупроводниковом направлении сократилась в 16 раз 4 ч.
Новая статья: Обзор гибкого смартфона Samsung Galaxy Z Fold7: догнал одним прыжком 8 ч.
Макеты всех версий iPhone 17 показались на фото в новых цветах — оранжевый Pro стал сюрпризом 9 ч.
Новая статья: Система жидкостного охлаждения Arctic Liquid Freezer III Pro 360 A-RGB: новые вентиляторы — и точка 9 ч.
AOC представила 610-Гц киберспортивные мониторы Agon Pro CS24A и Agon Pro AG246FK6 13 ч.
Apple случайно прорекламировала Samsung Galaxy Z Flip7 14 ч.
В Москве протестировали 5G-антенну российского производства — она обеспечила 1 Гбит/с 16 ч.