Сегодня 15 июля 2025
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Hardware

DeepSeek разогнали до рекордной скорости всего на 16 чипах SambaNova — чипов Nvidia потребовалось бы в 20 раз больше

Стартап в области искусственного интеллекта SambaNova Systems, основанный в 2017 году выходцами из Sun, Oracle и Стэнфордского университета, объявил о создании самой быстрой в мире системы для развёртывания модели DeepSeek-R1 671B. Для оборудования Nvidia такие показатели недоступны.

 Источник изображения: sambanova.ai

Источник изображения: sambanova.ai

SambaNova добилась скорости работы DeepSeek-R1 в 198 токенов в секунду всего на 16 специально изготовленных ускорителях — аналогичного результата можно достичь, только развернув 40 стоек с 320 графическими процессорами Nvidia. «SambaNova на чипах SN40L RDU стала самой быстрой платформой для запуска DeepSeek. Это пятикратный прирост по сравнению со скоростью новейшего графического процессора на одной стойке, а к концу года мы предложим 100-кратную ёмкость для DeepSeek-R1», — пообещал соучредитель и генеральный директор SambaNova Родриго Лян (Rodrigo Liang).

Ресурсоёмкие рабочие нагрузки систем искусственного интеллекта традиционно обеспечиваются графическими процессорами Nvidia, но в SambaNova утверждают, что созданная компанией конфигурируемая архитектура потока данных представляет собой более эффективное решение. Её оборудование работает втрое быстрее и потребляет в пять раз меньше энергии, чем самые мощные из современных графических процессоров, сохраняя при этом полную вычислительную мощность модели DeepSeek-R1. Достижение подтвердили эксперты компании Artificial Analysis, которая проводит независимую оценку систем ИИ.

Открытая модель DeepSeek-R1 671B доступна в облаке SambaNova через API. Компания активно наращивает мощности и в ближайшем будущем надеется достичь общей пропускной способности в 20 000 токенов в секунду.

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
Один сбитый бит — и всё пропало: атака GPUHammer на ускорители Nvidia ломает ИИ с минимальными усилиями 2 ч.
Механизмы, конвейерные ленты, роботы: в Steam стартовал «Фестиваль автоматизации» со скидками, демоверсиями и не только 2 ч.
Чат-бот с креативом: Claude стал ИИ-дизайнером, научившись работать с Canva 2 ч.
Call of Duty: Black Ops 7 скоро выйдет из тени — анонсирован большой показ «самой умопомрачительной» игры в истории серии 4 ч.
Иран захотел создать госооблако по американским стандартам безопасности 4 ч.
Опять за старое: разработчики God of War готовят следующий блокбастер, но не по новой франшизе 5 ч.
ИИ-сводки в Gmail превратили в инструмент для фишинговых атак, но Google уже закрыла уязвимость 6 ч.
В открытый доступ попали внутренние документы о проблемах разработки Subnautica 2 — Krafton подтвердила утечку 7 ч.
Windows 11 сама решит, когда экономить батарею — Microsoft тестирует незаметное адаптивное энергосбережение 8 ч.
Ведущий разработчик Far Cry 4 рассказал об «очень и очень интересной» механике с Пэйганом Мином, которая не попала в игру 9 ч.
Новая статья: Охладить пыл фон Неймана: сверхпроводимость — в каждый ЦОД! 2 ч.
Пользователей флагманских наушников Sony WH-1000XM6 взбудоражила новость о сломавшемся шарнире — от этого массово страдали XM5 3 ч.
«Яндекс» замотивирует сотрудников, раздав им акций на 15 млрд рублей 4 ч.
«Инфосистемы Джет» реализовали для ООО «МПК “Атяшевский”» масштабируемый проект с модульными ЦОД 8 ч.
200 Тбайт ёмкости и 50 лет сохранности: HoloMem предложила недорогую и эффективную замену LTO — картриджи HoloDrive 8 ч.
В «М.Видео-Эльдорадо» назвали самые популярные среди россиян бренды наушников 10 ч.
Горячая пора: изменение климата угрожает стабильности работы дата-центров 10 ч.
Lenovo представила первый белый ThinkPad — тонкий ноутбук Aura X9 AI Edition 10 ч.
KFC вместе с Asus ROG выпустила уникальные кейкапы для геймерских клавиатур 12 ч.
Biostar представила индустриальный компьютер EdgeComp MS-1335U с поддержкой четырёх дисплеев 13 ч.