Microsoft смягчила одно из своих строгих ограничений, ранее установленных для ПК класса Copilot+ PC — локальные задачи искусственного интеллекта на Windows 11 теперь могут запускаться на совместимых видеокартах Nvidia, а не только на встроенных в процессор специализированных ускорителях (NPU).
Совместимыми Microsoft объявила видеокарты Nvidia серии GeForce RTX 30 и более новые с объёмом видеопамяти не менее 6 Гбайт — они получили поддержку API для работы с локальными языковыми моделями в Windows. Пока это лишь небольшая корректировка на бумаге, адресованная разработчикам, но не исключено, что компания решила пересмотреть тесную связь между интегрированными нейропроцессорами и брендом Copilot+ PC.
Когда летом 2024 года появились первые ПК класса Copilot+ PC, в числе требований для соответствия этому классу отмечались встроенный ИИ-ускоритель (NPU), от 16 Гбайт оперативной памяти и твердотельный накопитель. Без NPU функции ИИ в Windows не работали. На практике, однако, задачи ИИ могут выполняться не только на NPU, но и на графических процессорах, особенно современных — они способны обеспечить даже более высокую производительность, хотя и при более высоком потреблении энергии.
В обновлённой документации и отдельном сообщении на GitHub компания Microsoft подтвердила, что разработчики теперь могут обращаться к API языковых моделей на ПК, которые не соответствуют требованиям Copilot+ PC, но располагают поддерживаемыми графическими процессорами. Речь идёт о видеокартах не ниже серии Nvidia GeForce RTX 30, у которых от 6 Гбайт памяти. Основу локальных функций составляет модель Phi Silica, которая при запросе от приложений загружается через «Центр обновления Windows».
Набор доступных функций ориентирован на текстовые задачи: составление сводок контента, переписывание текста, его преобразование в структурированные форматы и генерацию запросов. Эти функции доступны в облачных сервисах ИИ, но в данном случае выполняются локально на компьютере — такие приложения работают быстрее, а данные не отправляются на внешние ресурсы. Некоторые из функций, однако, пока остаются привязанными к NPU — в частности, это Windows Recall и Click to Do. Тем не менее, Microsoft уже перестала рассматривать NPU как единственное средство работы с локальным ИИ, и не исключено, что тенденция будет развиваться.