Nvidia: встроенных NPU хватит лишь на базовые ИИ-задачи — для AI PC нужны видеокарты GeForce

Компания Nvidia заявила, что её потребительские графические ускорители GeForce RTX показывают куда более высокую производительность в задачах ИИ по сравнению со специализированными нейропроцессорами в новейших центральных. Последние, по мнению Nvidia, годятся разве что для базовых ИИ-задач.

Источник изображения: Nvidia

Компания Nvidia не так давно провела презентацию, в рамках которой показала способности своих потребительских видеокарт GeForce RTX в задачах искусственного интеллекта. По мнению Nvidia, её графические процессоры способны обеспечить более высокую производительность в приложениях ИИ по сравнению с выделенными нейропроцессорами (NPU), которыми оснащаются многие современные мобильные процессоры Intel, AMD, Apple и Qualcomm. Данные встроенные ИИ-ускорители предлагают производительность 10–45 TOPS (триллионов операций в секунду). По словам Nvidia, её видеокарты способны обеспечить от 100 до 1300 TOPS в зависимости от модели.

В подтверждение этого тезиса были приведены результаты тестов, в которых видеокарты GeForce RTX сравнивались с чипом Apple M3 Max, установленным на новейших MacBook Pro и обладающим NPU с производительностью 18 TOPS. В тестах оценивалась производительность в популярных приложениях для обработки изображений и видео с использованием возможностей ИИ, таких как Stable Diffusion, Arnold, Blender и других. Тест показал, что ноутбук с мобильной видеокартой GeForce RTX 4090 превосходит MacBook Pro с M3 Max более чем в 5 раз. Более того, даже мобильная видеокарта среднего уровня RTX 4050 превосходит тот же MacBook Pro более чем в 2 раза, по данным Nvidia. В среднем мобильная RTX 4090 превосходила M3 Max в 5 раз, а мобильная RTX 4050 — на 50–100 %.

В другом показательном тесте замерялась скорость работы с большими языковыми моделями (LLM). Здесь GeForce RTX 4090 также значительно опередила чип Apple даже при увеличении размера обрабатываемых пакетов данных. GeForce RTX 4090 оказался быстрее на 42 %, чем M3 Max.

По мнению Nvidia, результаты тестирования наглядно демонстрируют, что производительность графических процессоров в задачах ИИ может в разы превосходить специализированные нейропроцессоры (NPU). Компания даже предложила разделить аппаратные средства для ИИ на три категории — базовый ИИ, премиальный ИИ и тяжелый ИИ. Последняя категория относится к мощным серверным решениям на базе GPU, способным обеспечить тысячи TOPS. Потребительские видеокарты, по мнению Nvidia, способны справиться с премиальным ИИ, а вот встроенных NPU хватит лишь для базового ИИ.

Однако по мнению специалистов, пока рано говорить о том, что графические процессоры полностью вытеснят NPU в компьютерах, ориентированных на работу с ИИ. К примеру, Microsoft в своем определении к ПК с искусственным интеллектом (AI PC) требует наличия как GPU, так и NPU. Кроме того, не стоит забывать про энергоэффективность, так как мощные графические процессоры потребляют гораздо больше энергии по сравнению с оптимизированными нейропроцессорами.

В целом, по мере развития инструментов на основе ИИ и усложнения решаемых ими задач, вычислительных мощностей специализированных NPU может оказаться недостаточно. А значит, роль мощных графических процессоров будет только возрастать.

В конце отметим, что н е упустила Nvidia возможности сравнить свои видеокарты и с решениями конкурента. В тесте генерации изображений при помощи искусственного интеллекта настольная GeForce RTX 4090 показала преимущество почти в 3 раза над флагманским графическим ускорителем AMD Radeon RX 7900 XTX . При этом все модели линейки GeForce RTX начиная с RTX 4070 Super превзошли по производительности самую мощную видеокарту AMD.