Компания Qualcomm опубликовала короткое видео, в котором продемонстрировала, как ноутбук на базе процессора Snapdragon X Elite до 10 раз превзошёл по производительности лэптоп на базе процессора Intel Core Ultra 7 в задачах, связанных с работой ИИ-алгоритмов по генерации изображений.

Источник изображений: Qualcomm

Согласно описанию под видео, Snapdragon X Elite оснащён вспомогательным ИИ-сопроцессором (NPU) с производительностью 45 TOPS (триллионов операций в секунду). Именно производительность NPU и была продемонстрирована в видео поставщика. Быстродействие Snapdragon X Elite и Intel Core Ultra 7, который, как и все процессоры из серии Meteor Lake, также оснащён собственным NPU, проверяли в программах генерации изображений Stable Diffusion и GIMP. Позже в Qualcomm пояснили, что для тестов Snapdragon X Elite использовались Stable Diffusion и Fast Stable Diffusion версии 1.5. Система на базе Intel Core Ultra 7 также использовала Stable Diffusion 1.5 с плагинами OpenVINO Backend и user_guide_for_windos_users.

Видео начинается с тестов систем в Stable Diffusion. Ноутбук на базе Snapdragon X Elite завершил задачу по генерации картинки с фруктами за 7,25 секунды. В свою очередь лэптоп на базе Intel Core Ultra 7 справился с задачей за 22,26 секунды. Обеим системам задавалось одинаковое описание нужного изображения.

В генераторе GIMP перед обеими системами также была поставлена задача сгенерировать картинки, на этот раз с изображением льва, греющегося на солнышке. Для системы с Snapdragon X Elite использовался нативный плагин Qualcomm AI Stack. Ноутбук с чипом Snapdragon справился с генерацией 10 разных изображений львов за 12,12 секунды. В свою очередь машина на базе Intel при использовании плагина OpenVINO сгенерировала за то же время только одну картинку. По словам нашего выпускающего редактора Андрея Созинова, в настоящий момент находящегося на выставке MWC 2024, в рамках живой демонстрации ноутбук на базе Snapdragon X Elite в той же задаче генерации картинок в Stable Diffusion в три раза превзошёл систему на базе Intel Core Ultra 7.

Превосходство Snapdragon X Elite в задачах ИИ вполне ожидаемо, поскольку NPU в составе тех же чипов Intel Core Ultra обеспечивает производительность всего до 34 TOPS. Meteor Lake являются первыми процессорами Intel, оснащёнными NPU. Intel ранее заявила, что процессоры будущего поколения Arrow Lake (настольные) и Lunar Lake (мобильные) предложат в три раза более высокую ИИ-производительность по сравнению с Meteor Lake. В рамках выставки CES 2024 в начале января стало известно, что указанные чипы находятся на финальной стадии своей разработки и будут представлены позже в этом году.

Источник изображения: Tom's Hardware

Следует добавить, что несколько дней назад Snapdragon X Elite засветился в базе данных синтетического теста Geekbench, где продемонстрировал убедительно высокую производительность против x86-совместимых мобильных процессоров конкурентов.

В одном из будущих обновлений «Диспетчер задач» операционной системы Windows 11 получит поддержку ИИ-блоков NPU в составе процессоров AMD Ryzen 8040. Такая поддержка уже реализована в операционной системе для процессоров Intel Meteor Lake.

Источник изображений: TechPowerUp

Первое поколение ИИ-сопроцессоров NPU (Neural Processing Unit) на архитектуре XDNA появились в составе мобильных процессоров Ryzen 7040 (Phoenix). Спустя несколько месяцев компания Intel представила аналогичные NPU в составе своих мобильных процессоров Core Ultra (Meteor Lake). Недавно стало известно, что API DirectML в составе ОС Windows 11 получит врождённую поддержку NPU чипов Core Ultra. И хотя AMD уже успела выпустить даже настольные гибридные процессоры Ryzen 8000G, отдельные модели которых также оснащены NPU, а в скором времени на рынке появятся ноутбуки с мобильными процессорами Ryzen 8040, API DirectML операционной системы Windows 11 до сих пор не имеет поддержки NPU этих чипов.

ИИ-сопроцессоры (NPU) в составе чипов Intel Meteor Lake уже поддерживаются функцией мониторинга «Диспетчера задач» (на скриншоте ниже). В перспективе такая же поддержка будет реализована для процессоров Ryzen 8040. Об этом говорится в официальном блоге компании AMD.

«Поскольку ПК с поддержкой ИИ становятся более популярными, растёт и потребность в наличии инструментов системного мониторинга, который будет следить за работой новых NPU (нейронных сопроцессоров), доступных в составе отдельных моделей мобильных чипов Ryzen 8040. Блок нейронного процессора, также называемый встроенным ИИ-движком, способен увеличить время автономной работы системы за счёт разгрузки задач искусственного интеллекта, которые в противном случае выполнялись бы на центральном или графическом процессоре. AMD работает с Microsoft над внедрением инфраструктуры MCDM (модель вычислительного драйвера Microsoft) в мобильных процессорах серии Ryzen 8040 с поддержкой AMD NPU. MCDM — это производная от модели драйвера дисплея Windows (WDDM), предназначенная для вычислительных устройств без графического процессора, таких как NPU. MCDM позволяет NPU использовать существующую инфраструктуру управления устройствами графического процессора, включая планирование, управление питанием, управление памятью и отладку производительности с помощью таких инструментов, как диспетчер задач. MCDM служит фундаментальным уровнем, обеспечивающим плавное выполнение рабочих нагрузок ИИ на устройствах NPU», — говорится в блоге AMD.

Возможность мониторинга поведения приложения в режиме реального времени будет особенно полезна для владельцев ноутбуков, поскольку у пользователей появится возможность контролировать запуск определённых задач и регулировать настройки энергопотребления, чтобы увеличить время автономной работы устройства.

К сожалению, AMD не поясняет, планируется ли расширение поддержки «Диспетчера задач» Windows 11 на процессоры Ryzen 8000G и Ryzen 7040. Как уже говорилось выше, обе серии чипов также оснащены NPU, но на базе архитектуры XDNA первого поколения.

На мероприятии Advance AI компания AMD впервые упомянула мобильные процессоры Strix Point. Одной из ключевых особенностей данной серии станет нейронный движок (NPU) нового поколения — XDNA 2. По словам AMD, этот ИИ-сопроцессор обеспечит трёхкратное увеличение производительности в задачах ИИ по сравнению с NPU в составе процессоров Hawk Point, также анонсированных сегодня.

Источник изображений: AMD

Напомним, что чипы Hawk Point (Ryzen 8040) являются преемниками процессоров Phoenix (Ryzen 7040). Их запуск ожидается в первой половине будущего года. Процессоры Ryzen 8040 почти во всём в точности копируют предшественников, но оснащены обновлённым нейронным движком (NPU) для задач ИИ. Если чипы Ryzen 7040 обеспечивают производительность в 10 TOPS (триллионов операций в секунду) в ИИ-задачах, то новый NPU процессоров Ryzen 8040 обещает ИИ-производительность в 16 TOPS. Процессоры Strix Point, анонс которых ожидается в 2024 году, в свою очередь, обещают как минимум трёхкратное повышение ИИ-производительности по сравнению с Hawk Point, то есть по крайней мере до 48 TOPS.

AMD не сообщила официальные названия будущих процессоров Strix Point. Будут ли это Ryzen 8050 или Ryzen 9050 — неизвестно. Однако известно, что указанные процессоры будут использовать ядра Zen 5, 4-нм технологический процесс производства и будут оснащаться встроенными графическими ядрами с архитектурой RDNA 3+, также известной как Navi 3.5.

Никаких дополнительных подробностей о новых чипах компания AMD, к сожалению, не предоставила, оставив, вероятно, детали для своей презентации на CES 2024.

На сегодняшний день ИИ стал синонимом облачных платформ с чат-ботами, таких как Bing Chat, Google Bard, Windows Copilot и ChatGPT. Но Intel в преддверии официального запуска процессоров Meteor Lake 14 декабря попытается убедить потребителей в том, что ИИ может (и должен) работать локально на их ПК. Чипы нового поколения будут включать не только ядра ЦП и графическую подсистему, но и ИИ-сопроцессор NPU (Neural Processing Unit). К его задействованию Intel привлекла более 100 софтверных компаний, разрабатывающих более 300 ИИ-функций.

Источник изображений: Intel

Изменить представление клиентов об использовании ИИ может оказаться непростой задачей, так как большинство потребителей не задаётся вопросом о том, где — в облаке или на ПК — работает тот или иной ИИ-инструмент. Intel пытается изменить эту ситуацию, используя все возможные способы, от конференции Intel Innovation до финансовых отчётов. Компания призывает разработчиков использовать в своих приложениях сопроцессор искусственного интеллекта NPU и предлагает комплект разработчика с открытым исходным кодом OpenVINO.

Не все разработчики обязательно будут громко представлять все ИИ-возможности своего ПО. Но Intel выделила нескольких партнёров, которые готовы на такой шаг, и среди них — Adobe, Audacity, BlackMagic, BufferZone, CyberLink, DeepRender, MAGIX, Rewind AI, Skylum, Topaz, VideoCom, Webex, Wondershare Filmora, XSplit и Zoom.

Некоторые компании уже назвали преимущества от использования NPU. Так, Deep Render утверждает, что NPU позволит их алгоритму сжимать видео в пять раз эффективнее. Topaz Labs, которая использует ИИ для повышения качества фотографий и видео, планирует задействовать NPU для ускорения своих моделей глубокого обучения. XSplit применит NPU для повышения производительности приложения Vcam для удаления и манипулирования фоном картинки с веб-камеры.

Большинство компаний полагают, что, хотя NPU может быть наиболее энергоэффективным средством ускорения определённых функций ИИ, совместное использование NPU, GPU и CPU на локальном компьютере станет самым быстрым способом достижения поставленной цели. Фактически это соответствует точке зрения самой Intel.

Некоторые разработчики сочетают локальную обработку с облачным ИИ. Например, инструмент Generative Fill от Adobe использует облако, чтобы генерировать новые сцены на основе текстовых описаний пользователя, но применение этих сцен к изображению выполняется на ПК.

Безусловно, на волне бума ИИ Intel постарается сделать всё, чтобы для потребителя знаменитый слоган «Intel Inside» превратился в «AI Inside».

Чипы нового поколения Intel Meteor Lake будут включать в себя не только ядра центрального процессора, а также графической подсистемы, но и дебютировавший в этой линейке сопроцессор NPU (Neural Processing Unit), оптимизированный для алгоритмов искусственного интеллекта.

Источник изображений: Intel

Наличие NPU в чипах Intel Meteor Lake позволит ноутбукам локально, то есть собственными силами без обращения к облаку обрабатывать ПО на базе ИИ, например, Stable Diffusion или основанные на языковых моделях чат-боты без снижения производительности или чрезмерного потребления энергии. Эта подсистема помогла в восемь раз повысить энергоэффективность в рабочих нагрузках с ИИ. Intel уже демонстрировала работу этого сопроцессора на выставке Computex 2023, правда, тогда он назывался VPU (Versatile Processing Unit).

NPU входит в состав SoC-чиплета процессоров Intel Meteor Lake и включает в себя два движка Neural Compute Engine, каждый из которых можно занять собственной рабочей нагрузкой, или объединить усилия для одной крупной задачи. Разработчики стороннего ПО могут пользоваться API, соответствующими отраслевым стандартам, что упрощает внедрение платформы, уточнили в Intel. NPU является полностью независимой подсистемой — вплоть до того, что в «Диспетчере задач» Windows он отображается как отдельное вычислительное устройство наряду с центральным и графическим процессорами.

Возможности Meteor Lake в работе с алгоритмами ИИ компания Intel продемонстрировала на примере генератора изображений Stable Diffusion. Интегрированный графический процессор справился с эталонной задачей за 14,5 с, продемонстрировав потребление в 37 Вт. NPU обрабатывал ту же задачу несколько дольше — 20,7 с, но на это потребовались всего 10 Вт мощности. Есть возможность и объединить ресурсы — совместными усилиями GPU и NPU справились за 11,3 с, причём мощность оказалась ниже, чем в первом случае — 30 Вт.

Intel оказалась уже не первой в данном сегменте: на борту платформы Apple M1 присутствует подсистема Neural Engine для ИИ-алгоритмов, используемых при обработке изображений и ПО с дополненной реальностью; мобильные чипы серии AMD Ryzen 7000 «Phoenix» тоже располагают аналогичным кластером — производитель обозначает его как Ryzen AI.

QNAP представила сетевое хранилище TS-AI642 с 8-ядерным центральным процессором и нейронным процессором (NPU) производительностью 6 TOPS — последний служит ускорителем для ИИ-приложений. Система оборудована портом 2.5GbE с возможностью расширения до 10GbE через PCIe, есть также два выхода HDMI с поддержкой разрешения 4K.

Источник изображений: qnap.com

Центральным процессором в QNAP TS-AI642 служит 8-ядерный чип с кластерами Arm Cortex-A76 и Cortex-A55. NPU на 6 TOPS позволяет на 200 % увеличить производительность в ИИ-приложениях: в менеджере фотографий QuMagie, системах распознавания текста, системе полнотекстового поиска Qsirch; можно также повысить число камер, подключённых к работающим в реальном времени системе распознавания лиц QVR Face Insight и системе подсчёта людей QVR Human.

Сетевое хранилище QNAP TS-AI642 можно использовать как профессиональное оборудование видеонаблюдения с возможностью развернуть решение QVR Elite с 2 бесплатными каналами — или до 64 каналов при покупке дополнительной лицензии. Два порта HDMI позволяют подключать пару мониторов, на которых оперативно менять активные каналы. Сетевой интерфейс представлен встроенным портом 2.5GbE, но есть также слот PCIe 3.0, к которому можно подключить карту 10GbE.

На борту есть шесть отсеков для дисков, но, как напомнил производитель, можно также подключить блок расширения TL-D1600S с 12 дисковыми отсеками, увеличив тем самым дисковое пространство до 350 Тбайт (если это будут 22-Тбайт накопители в RAID-5). Поддерживается резервное копирование системных образов для защиты от вирусов-вымогателей, а безопасный удалённый доступ можно настроить с помощью виртуальной частной сети QVPN.