Говоря об основных преимуществах представленных сегодня мобильных процессоров Lunar Lake, Intel выделила 40-% улучшение энергоэффективности и ИИ-сопроцессор NPU 4, вычислительная мощность которого выросла втрое (по сравнению с Meteor Lake). Столь большого внимания NPU заслужил, так как благодаря его возросшей до 48 TOPS (триллионов операций в секунду) производительности процессоры Lunar Lake могут стать основой ноутбуков, соответствующих требованиям Microsoft к Copilot+ PC.

Давая определение Copilot+ PC, компания Microsoft установила нижнюю планку производительности NPU в 40 TOPS. Согласно её требованиям, процессоры, имеющие более высокую вычислительную мощность ИИ-блока, получат возможность работать со встроенными ИИ-функциями операционной системы Windows — в первую очередь, со спорной функцией Recall.

NPU-блок Lunar Lake оказывается выше этой планки в отличие от предшествующего Meteor Lake, имеющего производительность NPU на уровне 11,5 TOPS. Для того, чтобы получить необходимый уровень производительности, в NPU нового процессора Intel добавила дополнительные конвейеры — теперь их стало шесть вместо двух, а также увеличила частоты. При этом структурно NPU продолжают основываться на архитектуре Movidius Myriad X, представленной в 2018 году.

Однако несмотря на значительный рывок, Intel не удалось предложить NPU с самой высокой производительностью на рынке. Хотя Lunar Lake превосходит по этому параметру Qualcomm Snapdragon X Elite, обеспечивающий 45 TOPS, в то же время он проигрывает процессорам Ryzen AI 300, производительность NPU которых составляет 50 TOPS.

Но Intel добавляет ещё одну величину в уравнение, указывая на возможность использования для ИИ-задач XMX-движков графического ядра X^e2. Отдельно от NPU они способны обеспечить до 67 TOPS производительности. Суммарно же Intel говорит об общей ИИ-производительности на уровне 120 TOPS, где в этом числе учитывается ещё и мощность процессорных ядер.

Для практической иллюстрации нейросетевых возможностей Lunar Lake компания Intel измерила время выполнения 20 итераций в Stable Diffusion — новый процессор справился с задачей вчетверо быстрее Meteor Lake, затратив при этом лишь на четверть больше энергии.

Компания добавила, что в то время, как её конкуренты только готовятся выйти на рынок ПК с аппаратной поддержкой ИИ, она уже осуществляет масштабные поставки таких решений, поскольку процессоры Meteor Lake c NPU вышли в конце прошлого года. Отгрузки их преемников Lunar Lake начнутся в третьем квартале, и Intel ожидает, что они будут использоваться в более чем 80 различных моделях мобильных ПК от 20 производителей. В итоге за этот год Intel планирует выпустить на рынок более 40 млн процессоров серии Core Ultra, в которую войдут и представители семейства Lunar Lake.

На сегодняшний день ИИ стал синонимом облачных платформ с чат-ботами, таких как Bing Chat, Google Bard, Windows Copilot и ChatGPT. Но Intel в преддверии официального запуска процессоров Meteor Lake 14 декабря попытается убедить потребителей в том, что ИИ может (и должен) работать локально на их ПК. Чипы нового поколения будут включать не только ядра ЦП и графическую подсистему, но и ИИ-сопроцессор NPU (Neural Processing Unit). К его задействованию Intel привлекла более 100 софтверных компаний, разрабатывающих более 300 ИИ-функций.

Источник изображений: Intel

Изменить представление клиентов об использовании ИИ может оказаться непростой задачей, так как большинство потребителей не задаётся вопросом о том, где — в облаке или на ПК — работает тот или иной ИИ-инструмент. Intel пытается изменить эту ситуацию, используя все возможные способы, от конференции Intel Innovation до финансовых отчётов. Компания призывает разработчиков использовать в своих приложениях сопроцессор искусственного интеллекта NPU и предлагает комплект разработчика с открытым исходным кодом OpenVINO.

Не все разработчики обязательно будут громко представлять все ИИ-возможности своего ПО. Но Intel выделила нескольких партнёров, которые готовы на такой шаг, и среди них — Adobe, Audacity, BlackMagic, BufferZone, CyberLink, DeepRender, MAGIX, Rewind AI, Skylum, Topaz, VideoCom, Webex, Wondershare Filmora, XSplit и Zoom.

Некоторые компании уже назвали преимущества от использования NPU. Так, Deep Render утверждает, что NPU позволит их алгоритму сжимать видео в пять раз эффективнее. Topaz Labs, которая использует ИИ для повышения качества фотографий и видео, планирует задействовать NPU для ускорения своих моделей глубокого обучения. XSplit применит NPU для повышения производительности приложения Vcam для удаления и манипулирования фоном картинки с веб-камеры.

Большинство компаний полагают, что, хотя NPU может быть наиболее энергоэффективным средством ускорения определённых функций ИИ, совместное использование NPU, GPU и CPU на локальном компьютере станет самым быстрым способом достижения поставленной цели. Фактически это соответствует точке зрения самой Intel.

Некоторые разработчики сочетают локальную обработку с облачным ИИ. Например, инструмент Generative Fill от Adobe использует облако, чтобы генерировать новые сцены на основе текстовых описаний пользователя, но применение этих сцен к изображению выполняется на ПК.

Безусловно, на волне бума ИИ Intel постарается сделать всё, чтобы для потребителя знаменитый слоган «Intel Inside» превратился в «AI Inside».

Чипы нового поколения Intel Meteor Lake будут включать в себя не только ядра центрального процессора, а также графической подсистемы, но и дебютировавший в этой линейке сопроцессор NPU (Neural Processing Unit), оптимизированный для алгоритмов искусственного интеллекта.

Источник изображений: Intel

Наличие NPU в чипах Intel Meteor Lake позволит ноутбукам локально, то есть собственными силами без обращения к облаку обрабатывать ПО на базе ИИ, например, Stable Diffusion или основанные на языковых моделях чат-боты без снижения производительности или чрезмерного потребления энергии. Эта подсистема помогла в восемь раз повысить энергоэффективность в рабочих нагрузках с ИИ. Intel уже демонстрировала работу этого сопроцессора на выставке Computex 2023, правда, тогда он назывался VPU (Versatile Processing Unit).

NPU входит в состав SoC-чиплета процессоров Intel Meteor Lake и включает в себя два движка Neural Compute Engine, каждый из которых можно занять собственной рабочей нагрузкой, или объединить усилия для одной крупной задачи. Разработчики стороннего ПО могут пользоваться API, соответствующими отраслевым стандартам, что упрощает внедрение платформы, уточнили в Intel. NPU является полностью независимой подсистемой — вплоть до того, что в «Диспетчере задач» Windows он отображается как отдельное вычислительное устройство наряду с центральным и графическим процессорами.

Возможности Meteor Lake в работе с алгоритмами ИИ компания Intel продемонстрировала на примере генератора изображений Stable Diffusion. Интегрированный графический процессор справился с эталонной задачей за 14,5 с, продемонстрировав потребление в 37 Вт. NPU обрабатывал ту же задачу несколько дольше — 20,7 с, но на это потребовались всего 10 Вт мощности. Есть возможность и объединить ресурсы — совместными усилиями GPU и NPU справились за 11,3 с, причём мощность оказалась ниже, чем в первом случае — 30 Вт.

Intel оказалась уже не первой в данном сегменте: на борту платформы Apple M1 присутствует подсистема Neural Engine для ИИ-алгоритмов, используемых при обработке изображений и ПО с дополненной реальностью; мобильные чипы серии AMD Ryzen 7000 «Phoenix» тоже располагают аналогичным кластером — производитель обозначает его как Ryzen AI.