Сегодня 03 марта 2025
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Hardware

AMD показала, как запустить думающую ИИ-модель DeepSeek R1 на обычном ПК

Компания AMD опубликовала инструкции по локальному запуску продвинутой ИИ-модели DeepSeek R1 со способностью к размышлению на пользовательских ПК. Правда, необходима система на процессоре Ryzen с ИИ-ускорителем (NPU) XDNA, либо компьютер с настольной видеокартой Radeon RX 7000. Также для запуска требуется драйвер Adrenalin 25.1.1.

 Источник изображения: AMD

Источник изображения: AMD

Как утверждается, только недавно была представлена «высокоэффективная» малая версия ИИ-модели DeepSeek R1, достаточно компактная для работы на потребительском оборудовании. Стоит отметить, что в целом модели DeepSeek отличаются небольшими запросами к железу — например, модель DeepSeek-V3 изначально обучалась на кластере всего из 2048 ускорителей Nvidia H800.

В инструкции AMD описывается всё, что нужно для локального запуска DeepSeek R1 на пользовательской системе на базе аппаратного обеспечения AMD. В LM Studio есть установщик больших языковых моделей в один клик, специально разработанный для процессоров Ryzen AI. Его же пользователи AMD могут использовать для установки R1. В ролике компания также показывает, как приложение должно быть настроено для конкретного оборудования, а также объясняет, какое максимальное количество параметров LLM поддерживается тем или иным оборудованием.

Последнее в значительной степени зависит от объёма доступной памяти. Например, видеокарты Radeon RX 7600 XT, RX 7700 XT, RX 7800 XT, RX 7900 GRE и RX 7900 XT поддерживают модели до DeepSeek-R1-Distill-Qwen-14B с 14 млрд параметров. Флагманская карта Radeon RX 7900 XTX позволяет запускать модели до DeepSeek-R1-Distill-Qwen-32B с 32 млрд параметров. А модель Radeon RX 7600, имеющая на борту всего 8 Гбайт памяти, поддерживает запуск моделей до DeepSeek-R1-Distill-Llama-8B с 8 млрд параметров.

Ноутбуки на базе процессоров Ryzen 8040 и Ryzen 7040 с 32 Гбайт ОЗУ, а также системы на базе процессоров Ryzen AI 9 HX 370 и Ryzen AI 9 365, оснащённые 24 или 32 Гбайт оперативной памяти, могут запускать модели до DeepSeek-R1-Distill-Llama-14B. Ноутбуки на базе Ryzen AI Max+ 395 поддерживают модели до DeepSeek-R1-Distill-Llama-70B с 70 млрд параметров, но только при наличии 64 или 128 Гбайт ОЗУ. Версии лэптопов с 32 Гбайт памяти могут запускать модели до DeepSeek-R1-Distill-Qwen-32B с 32 млрд параметров.

Новая модель искусственного интеллекта DeepSeek R1 в одночасье покорила мир, поскольку затраты на её обучение оказались в 11 раз ниже, чем у передовых ИИ-моделей конкурентов. Два дня назад она стала причиной рекордной потери рыночной капитализации Nvidia в размере 589 миллиардов долларов. Модель DeepSeek R1 полагается на экстремальные уровни оптимизации, чтобы обеспечить 11-кратный рост эффективности. DeepSeek R1 работает не только на ускорителях Nvidia и AMD, но также сообщается о поддержке ускорителей Huawei Ascend.

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
В четвёртом сезоне сериала «Ведьмак» от Netflix появится персонаж из первой The Witcher от CD Projekt Red 42 мин.
IBM завершила сделку по покупке HashiCorp за $6,4 млрд 42 мин.
Honor инвестирует $10 млрд в ИИ, чтобы стать круче Samsung и Apple 12 ч.
Apple столкнулась с проблемами при интеграции ИИ в Siri — сроки запуска обновлённого помощника сдвигаются 16 ч.
Боевой кузнец против целой армии обезумевшей королевы в дебютном трейлере фэнтезийного боевика Blades of Fire 17 ч.
Steam установил новый рекорд — впервые в истории платформы пиковый онлайн превысил 40 миллионов человек 18 ч.
Великое объединение: платформа VAST Data обзавелась поддержкой блочного доступа 18 ч.
Nvidia снова пытается устранить «внезапный чёрный экран» у GeForce RTX 50-й серии — первая попытка не сработала 21 ч.
На следующей неделе Трамп проведёт в Белом доме криптовалютный саммит 23 ч.
Состоялся запуск аналога Instagram на базе Bluesky — за сутки приложение Flashes скачали более 30 тыс. раз 02-03 10:40
В продаже появилась поддельные компьютеры российских марок 27 мин.
Hisense обвинили в отсутствии квантовых точек в её QLED-телевизорах 36 мин.
Galax выпустила GeForce RTX 5070 Ti HOF OC Lab в версиях Deluxe и Deluxe-X для экстремального разгона 2 ч.
Infinix показала смартфон с солнечной панелью, а ещё смартфон с дополнительным экраном E-Ink 3 ч.
Qualcomm представила беспроводные модемы X85 и X82 3 ч.
HMD представила беспроводные наушники, от которых можно заряжать смартфон 4 ч.
Больше бит за те же деньги: память Sandisk 3D Matrix Memory обещает производительность на уровне DRAM при снижении цены и увеличении ёмкости 4 ч.
Дональд Трамп объявил о создании национального криптовалютного резерва США 5 ч.
Президент Xiaomi пообещал вывести электромобили марки на мировой рынок в ближайшие годы 8 ч.
Lenovo представила серию дополнительных экранов для расширения ноутбука ThinkBook 16p Gen 6 11 ч.