Сегодня 20 марта 2025
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Hardware

AMD показала, как запустить думающую ИИ-модель DeepSeek R1 на обычном ПК

Компания AMD опубликовала инструкции по локальному запуску продвинутой ИИ-модели DeepSeek R1 со способностью к размышлению на пользовательских ПК. Правда, необходима система на процессоре Ryzen с ИИ-ускорителем (NPU) XDNA, либо компьютер с настольной видеокартой Radeon RX 7000. Также для запуска требуется драйвер Adrenalin 25.1.1.

 Источник изображения: AMD

Источник изображения: AMD

Как утверждается, только недавно была представлена «высокоэффективная» малая версия ИИ-модели DeepSeek R1, достаточно компактная для работы на потребительском оборудовании. Стоит отметить, что в целом модели DeepSeek отличаются небольшими запросами к железу — например, модель DeepSeek-V3 изначально обучалась на кластере всего из 2048 ускорителей Nvidia H800.

В инструкции AMD описывается всё, что нужно для локального запуска DeepSeek R1 на пользовательской системе на базе аппаратного обеспечения AMD. В LM Studio есть установщик больших языковых моделей в один клик, специально разработанный для процессоров Ryzen AI. Его же пользователи AMD могут использовать для установки R1. В ролике компания также показывает, как приложение должно быть настроено для конкретного оборудования, а также объясняет, какое максимальное количество параметров LLM поддерживается тем или иным оборудованием.

Последнее в значительной степени зависит от объёма доступной памяти. Например, видеокарты Radeon RX 7600 XT, RX 7700 XT, RX 7800 XT, RX 7900 GRE и RX 7900 XT поддерживают модели до DeepSeek-R1-Distill-Qwen-14B с 14 млрд параметров. Флагманская карта Radeon RX 7900 XTX позволяет запускать модели до DeepSeek-R1-Distill-Qwen-32B с 32 млрд параметров. А модель Radeon RX 7600, имеющая на борту всего 8 Гбайт памяти, поддерживает запуск моделей до DeepSeek-R1-Distill-Llama-8B с 8 млрд параметров.

Ноутбуки на базе процессоров Ryzen 8040 и Ryzen 7040 с 32 Гбайт ОЗУ, а также системы на базе процессоров Ryzen AI 9 HX 370 и Ryzen AI 9 365, оснащённые 24 или 32 Гбайт оперативной памяти, могут запускать модели до DeepSeek-R1-Distill-Llama-14B. Ноутбуки на базе Ryzen AI Max+ 395 поддерживают модели до DeepSeek-R1-Distill-Llama-70B с 70 млрд параметров, но только при наличии 64 или 128 Гбайт ОЗУ. Версии лэптопов с 32 Гбайт памяти могут запускать модели до DeepSeek-R1-Distill-Qwen-32B с 32 млрд параметров.

Новая модель искусственного интеллекта DeepSeek R1 в одночасье покорила мир, поскольку затраты на её обучение оказались в 11 раз ниже, чем у передовых ИИ-моделей конкурентов. Два дня назад она стала причиной рекордной потери рыночной капитализации Nvidia в размере 589 миллиардов долларов. Модель DeepSeek R1 полагается на экстремальные уровни оптимизации, чтобы обеспечить 11-кратный рост эффективности. DeepSeek R1 работает не только на ускорителях Nvidia и AMD, но также сообщается о поддержке ускорителей Huawei Ascend.

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
МТС объявила о закрытии своего заменителя YouTube и TikTok 12 мин.
Meta AI добрался до Европы, но с ограничениями и без обучения на данных пользователей 2 ч.
Hazelight спрятала в Split Fiction секретный уровень, за прохождение которого можно было выиграть бесплатную поездку в Швецию 2 ч.
Xbox упомянула Hollow Knight: Silksong в списке игр 2025 года — фанаты замерли в предвкушении 12 ч.
ЕС обязал Apple упростить подключение сторонних смарт-часов к iPhone — в компании заявили, что это «это плохо для пользователей» 12 ч.
Исследователи нашли способ масштабирования ИИ без дополнительного обучения, но это не точно 13 ч.
ЕС потребовал от Google прекратить ущемлять конкурентов в поисковой выдаче и пригрозил штрафом до $35 млрд 14 ч.
По мотивам творчества легендарной метал-группы Voivod выйдет «умопомрачительная» метроидвания Voivod: The Nuclear Warrior 15 ч.
Лошадь есть, ума не надо: сюжетный платформер Brute Horse отправит игроков в абсурдный мир, где даже конь может стать оружием 16 ч.
Microsoft исправила баг с автоматическим удалением ИИ-помощника Copilot из Windows 11 17 ч.
Nvidia перестала быть геймерской компанией, а стала «фабрикой ИИ» 47 мин.
Даже доступные SSD скоро подорожают: китайская YMTC анонсировала повышения цен на флеш-память на 10 % 2 ч.
Установлены самые строгие ограничения на квантовую гравитацию — это ключ для «теории всего» 2 ч.
Глава Nvidia признался, что пока никто не предлагал ему купить часть Intel 5 ч.
Модуль Blue Ghost прислал первые в истории высококачественные фото солнечного заката на Луне 6 ч.
SoftBank купит одного из крупнейший разработчиков серверных процессоров в мире за $6,5 млрд 6 ч.
Анонсированы суперускорители на Rubin и Rubin Ultra, в которых NVIDIA не будет ошибаться в подсчётах 11 ч.
Новая статья: Жидкостное охлаждение ID-Cooling DashFlow 360 XT Pro: лучше, дешевле, но ещё не идеал 12 ч.
Сезон охоты за тёмной материей и не только открыт — опубликован первый пакет данных с телескопа «Евклид» 14 ч.
«Увеон — облачные технологии» выпустил отечественный контроллер доставки приложений 15 ч.