В чипах Intel Meteor Lake появился NPU — нейропроцессор для локальной работы ИИ

Чипы нового поколения Intel Meteor Lake будут включать в себя не только ядра центрального процессора, а также графической подсистемы, но и дебютировавший в этой линейке сопроцессор NPU (Neural Processing Unit), оптимизированный для алгоритмов искусственного интеллекта.

Источник изображений: Intel

Наличие NPU в чипах Intel Meteor Lake позволит ноутбукам локально, то есть собственными силами без обращения к облаку обрабатывать ПО на базе ИИ, например, Stable Diffusion или основанные на языковых моделях чат-боты без снижения производительности или чрезмерного потребления энергии. Эта подсистема помогла в восемь раз повысить энергоэффективность в рабочих нагрузках с ИИ. Intel уже демонстрировала работу этого сопроцессора на выставке Computex 2023, правда, тогда он назывался VPU (Versatile Processing Unit).

NPU входит в состав SoC-чиплета процессоров Intel Meteor Lake и включает в себя два движка Neural Compute Engine, каждый из которых можно занять собственной рабочей нагрузкой, или объединить усилия для одной крупной задачи. Разработчики стороннего ПО могут пользоваться API, соответствующими отраслевым стандартам, что упрощает внедрение платформы, уточнили в Intel. NPU является полностью независимой подсистемой — вплоть до того, что в «Диспетчере задач» Windows он отображается как отдельное вычислительное устройство наряду с центральным и графическим процессорами.

Возможности Meteor Lake в работе с алгоритмами ИИ компания Intel продемонстрировала на примере генератора изображений Stable Diffusion. Интегрированный графический процессор справился с эталонной задачей за 14,5 с, продемонстрировав потребление в 37 Вт. NPU обрабатывал ту же задачу несколько дольше — 20,7 с, но на это потребовались всего 10 Вт мощности. Есть возможность и объединить ресурсы — совместными усилиями GPU и NPU справились за 11,3 с, причём мощность оказалась ниже, чем в первом случае — 30 Вт.

Intel оказалась уже не первой в данном сегменте: на борту платформы Apple M1 присутствует подсистема Neural Engine для ИИ-алгоритмов, используемых при обработке изображений и ПО с дополненной реальностью; мобильные чипы серии AMD Ryzen 7000 «Phoenix» тоже располагают аналогичным кластером — производитель обозначает его как Ryzen AI.