Сегодня 18 ноября 2026
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

Новая ИИ-модель DeepSeek cделает работу с длинным контекстом вдвое дешевле и быстрее

Инженеры DeepSeek представили новую экспериментальную модель V3.2-exp, которая обеспечивает вдвое меньшую стоимость инференса и значительное ускорение для сценариев с длинным контекстом.

 Источник изображения: DeepSeek/TechCrunch

Источник изображения: DeepSeek/TechCrunch

«В качестве промежуточного шага к архитектуре следующего поколения, V3.2-Exp дополняет V3.1-Terminus, внедряя DeepSeek Sparse Attention — механизм разреженного внимания, предназначенный для исследования и валидации оптимизаций эффективности обучения и вывода в сценариях с длинным контекстом», — сообщила компания в публикации на платформе Hugging Face, отметив в сообщении в соцсети X, что цены на API снижены более чем на 50 %.

С помощью механизма DeepSeek Sparse Attention (DSA), который работает как интеллектуальный фильтр, модель выбирает наиболее важные фрагменты контекста, из которых с использованием системы точного выбора токенов выбирает определённые токены для загрузки в ограниченное окно внимания модуля.

Метод сочетает крупнозернистое сжатие токенов с мелкозернистым отбором, гарантируя, что модель не теряет более широкий контекст. DeepSeek утверждает, что новый механизм отличается от представленной раннее в этом году технологии Native Sparse Attention и может быть модифицирован для предобученных моделей.

В бенчмарках V3.2-Exp не уступает предыдущей версии ИИ-модели. В тестах на рассуждение, кодирование и использование инструментов различия были незначительными — часто в пределах одного-двух пунктов, — в то время как рост эффективности был значительным, пишет techstartups.com. Модель работала в 2–3 раза быстрее при инференсе с длинным контекстом, сократила потребление памяти на 30–40 % и вдвое повысила эффективность обучения. Для разработчиков это означает более быструю реакцию, снижение затрат на инфраструктуру и более плавный путь к развёртыванию.

Для операций с длинным контекстом преимущества системы весьма существенны, отметил ресурс TechCrunch. Для более надёжной оценки модели потребуется дальнейшее тестирование, но, поскольку она имеет открытый вес и свободно доступна на площадке Hugging Face, пользователи сами могут оценить с помощью тестов, насколько эффективна новая разработка DeepSeek.

Было интересно? Скажите об этом Google, чтобы чаще получать ссылки на наши новости про искусственный интеллект

Источники:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
Microsoft превратит Copilot в сисадмина — ИИ будет сам разбираться с поломками Windows 25 мин.
«Просто идеально и сделано с душой»: моддеры впечатлили фанатов трейлером неофициального ремастера классической Fallout 2 ч.
NVIDIA ускорила эмуляцию FP64-вычислений на своих ИИ-чипах 5 ч.
ИИ-генератор аудио Suno научился создавать музыкальные клипы 5 ч.
Новая глава в истории Firaxis Games началась с массовых увольнений, а следующая XCOM в беде 5 ч.
Секретная сеть АНБ США дала сбой после обновления — это парализовало работу большинства сотрудников 5 ч.
Microsoft научила Windows окирпичивать украденные ноутбуки — файлы при этом не пострадают 14 ч.
Более 80 % серверов Exchange вышли из строя: Microsoft рассказала, как сама усугубила глобальный сбой Outlook 14 ч.
Microsoft представила семь ИИ-моделей: одни пишут и исправляют код, другие ищут уязвимости, редактируют изображения и общаются голосом 15 ч.
OpenAI представила две «жутко умные» модели ИИ — GPT-6.2 Astra для профи и GPT-6.2 Sol для повседневных дел 15 ч.
Солнечная энергетика споткнулась о собственный успех и впервые за восемь лет сбавит обороты — электросети не успевают за генерацией 19 мин.
NVIDIA больше не будет продавать Китаю ускорители H200 55 мин.
Nvidia сама помогла Alibaba обойти санкции США — для этого она свела китайцев с «шпионкой» Хуанга 2 ч.
До 2 Тбайт и PCIe 4.0 x4: SSSTC представила М.2 SSD серии PQ2 для индустриальных приложений 2 ч.
2048 ядер в 2U: Giga Computing выпустила 2U4N-сервер H295-D80-CS1 с СЖО на базе AMD EPYC Venice 2 ч.
Boston Dynamics нашла новую работу для андроидов Atlas — они займутся выпуском чипов у GlobalFoundries 3 ч.
США перекрыли Китаю ещё одну лазейку к чипам Nvidia — азиатским дата-центрам запретили покупать ИИ-ускорители без разрешения Вашингтона 4 ч.
Nvidia заявила, что не намерена возвращать Хуанга на пост гендиректора 5 ч.
«Мы со всем справимся»: Nvidia удвоила прибыль и выручку, а заодно повысила прогноз, несмотря на скандал и уход Хуанга 5 ч.
Отставка Хуанга не спасла Nvidia от неприятностей — Комиссия по ценным бумагам и биржам США запустила расследование 5 ч.