Компания Raspberry Pi выпустила плату расширения, позволяющую запускать генеративные модели искусственного интеллекта локально на Raspberry Pi 5. Анонсированная в четверг плата AI HAT+ 2 стоимостью $130 представляет собой улучшенную и более дорогую версию модуля, выпущенного в прошлом году. Теперь плата расширения предлагает 8 Гбайт оперативной памяти и чип Hailo 10H с производительностью ИИ 40 TOPS.
Источник изображения: Raspberry Pi
После подключения Raspberry Pi 5 будет использовать AI HAT+ 2 для обработки задач, связанных с ИИ, оставляя основной процессор Arm свободным для других задач. В отличие от предыдущей версии AI HAT+, которая была ориентирована на обработку изображений с помощью ИИ, AI HAT+ 2 поставляется со встроенной оперативной памятью и может запускать небольшие генеративные модели ИИ, такие как Llama 3.2 и DeepSeek-R1-Distill, а также ряд моделей Qwen. С помощью этого устройства также можно обучать и дорабатывать модели ИИ.
Демонстрация, опубликованная Raspberry Pi, показывает, как можно использовать дополнительную плату для запуска модели искусственного интеллекта, способной генерировать текстовое описание видеопотока с камеры, а также отвечать на вопрос о наличии людей в кадре. Другая демонстрация показывает, как с помощью модели Qwen2, запущенной на AI HAT+ 2, можно переводить текст с французского на английский.
Сам по себе одноплатный компьютер Raspberry Pi 5 с 8 Гбайт оперативной памяти в целом превосходит AI HAT+ 2 по всем поддерживаемым моделям, сообщает The Verge, ссылающийся на техноблогера Джеффа Гирлинга (Jeff Geerling). Гирлинг связывает более низкую производительность AI HAT+ 2 с тем, что энергопотребление платы расширения составляет всего 3 Вт, тогда как Raspberry Pi 5 может работать с TDP до 10 Вт.
Хотя AI HAT+ 2 может идеально подходить для определенных сценариев использования, Гирлинг отмечает, что дополнительных 8 Гбайт оперативной памяти на дополнительной плате «недостаточно, чтобы дать этому HAT преимущество по сравнению с покупкой более производительного Raspberry Pi 5 с 16 Гбайт оперативной памяти, который будет более гибким и будет быстрее запускать модели».