На сегодняшний день ИИ стал синонимом облачных платформ с чат-ботами, таких как Bing Chat, Google Bard, Windows Copilot и ChatGPT. Но Intel в преддверии официального запуска процессоров Meteor Lake 14 декабря попытается убедить потребителей в том, что ИИ может (и должен) работать локально на их ПК. Чипы нового поколения будут включать не только ядра ЦП и графическую подсистему, но и ИИ-сопроцессор NPU (Neural Processing Unit). К его задействованию Intel привлекла более 100 софтверных компаний, разрабатывающих более 300 ИИ-функций.

Источник изображений: Intel

Изменить представление клиентов об использовании ИИ может оказаться непростой задачей, так как большинство потребителей не задаётся вопросом о том, где — в облаке или на ПК — работает тот или иной ИИ-инструмент. Intel пытается изменить эту ситуацию, используя все возможные способы, от конференции Intel Innovation до финансовых отчётов. Компания призывает разработчиков использовать в своих приложениях сопроцессор искусственного интеллекта NPU и предлагает комплект разработчика с открытым исходным кодом OpenVINO.

Не все разработчики обязательно будут громко представлять все ИИ-возможности своего ПО. Но Intel выделила нескольких партнёров, которые готовы на такой шаг, и среди них — Adobe, Audacity, BlackMagic, BufferZone, CyberLink, DeepRender, MAGIX, Rewind AI, Skylum, Topaz, VideoCom, Webex, Wondershare Filmora, XSplit и Zoom.

Некоторые компании уже назвали преимущества от использования NPU. Так, Deep Render утверждает, что NPU позволит их алгоритму сжимать видео в пять раз эффективнее. Topaz Labs, которая использует ИИ для повышения качества фотографий и видео, планирует задействовать NPU для ускорения своих моделей глубокого обучения. XSplit применит NPU для повышения производительности приложения Vcam для удаления и манипулирования фоном картинки с веб-камеры.

Большинство компаний полагают, что, хотя NPU может быть наиболее энергоэффективным средством ускорения определённых функций ИИ, совместное использование NPU, GPU и CPU на локальном компьютере станет самым быстрым способом достижения поставленной цели. Фактически это соответствует точке зрения самой Intel.

Некоторые разработчики сочетают локальную обработку с облачным ИИ. Например, инструмент Generative Fill от Adobe использует облако, чтобы генерировать новые сцены на основе текстовых описаний пользователя, но применение этих сцен к изображению выполняется на ПК.

Безусловно, на волне бума ИИ Intel постарается сделать всё, чтобы для потребителя знаменитый слоган «Intel Inside» превратился в «AI Inside».

Чипы нового поколения Intel Meteor Lake будут включать в себя не только ядра центрального процессора, а также графической подсистемы, но и дебютировавший в этой линейке сопроцессор NPU (Neural Processing Unit), оптимизированный для алгоритмов искусственного интеллекта.

Источник изображений: Intel

Наличие NPU в чипах Intel Meteor Lake позволит ноутбукам локально, то есть собственными силами без обращения к облаку обрабатывать ПО на базе ИИ, например, Stable Diffusion или основанные на языковых моделях чат-боты без снижения производительности или чрезмерного потребления энергии. Эта подсистема помогла в восемь раз повысить энергоэффективность в рабочих нагрузках с ИИ. Intel уже демонстрировала работу этого сопроцессора на выставке Computex 2023, правда, тогда он назывался VPU (Versatile Processing Unit).

NPU входит в состав SoC-чиплета процессоров Intel Meteor Lake и включает в себя два движка Neural Compute Engine, каждый из которых можно занять собственной рабочей нагрузкой, или объединить усилия для одной крупной задачи. Разработчики стороннего ПО могут пользоваться API, соответствующими отраслевым стандартам, что упрощает внедрение платформы, уточнили в Intel. NPU является полностью независимой подсистемой — вплоть до того, что в «Диспетчере задач» Windows он отображается как отдельное вычислительное устройство наряду с центральным и графическим процессорами.

Возможности Meteor Lake в работе с алгоритмами ИИ компания Intel продемонстрировала на примере генератора изображений Stable Diffusion. Интегрированный графический процессор справился с эталонной задачей за 14,5 с, продемонстрировав потребление в 37 Вт. NPU обрабатывал ту же задачу несколько дольше — 20,7 с, но на это потребовались всего 10 Вт мощности. Есть возможность и объединить ресурсы — совместными усилиями GPU и NPU справились за 11,3 с, причём мощность оказалась ниже, чем в первом случае — 30 Вт.

Intel оказалась уже не первой в данном сегменте: на борту платформы Apple M1 присутствует подсистема Neural Engine для ИИ-алгоритмов, используемых при обработке изображений и ПО с дополненной реальностью; мобильные чипы серии AMD Ryzen 7000 «Phoenix» тоже располагают аналогичным кластером — производитель обозначает его как Ryzen AI.