Сегодня 26 апреля 2025
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

AMD представила Gaia — открытое приложение для запуска ИИ локально на ПК с Windows

Запуск больших языковых моделей искусственного интеллекта локально на ПК — задача, которая становится всё более востребованной. Для её решения AMD выпустила Gaia — программу с открытым исходным кодом, предназначенную для работы с локальными ИИ-моделями на компьютерах под управлением Windows.

 Источник изображений: amd.com

Источник изображений: amd.com

Gaia предлагает дополнительную оптимизацию производительности для машин с процессорами Ryzen AI; вывод ИИ осуществляется при помощи средств Lemonade SDK. Программа позволяет адаптировать модели для различных целей: они могут составлять сводки больших текстов или обрабатывать сложные задачи, требующие умения рассуждать. Gaia работает через компонент Retrieval-Augmented Generation (RAG), объединяющий ИИ с базой знаний, благодаря чему пользователь получает более точные ответы на запросы в соответствии с контекстом.

RAG включает четыре агента:

  • Simple Prompt Completion — обеспечивает прямое взаимодействие с моделью, предназначено для тестирования и оценки.
  • Chaty — отвечает за интерфейс чат-бота.
  • Clip — выполняет поиск по YouTube с функцией вопросов и ответов.
  • Joker — генерирует шутки и добавляет чат-боту индивидуальности.
 Источник изображений: amd.com

Gaia решает специализированные задачи ИИ с помощью Lemonade SDK, работая в различных средах выполнения. Lemonade открывает веб-сервис для языковой модели и взаимодействует с приложением Gaia через совместимый с OpenAI REST API. Приложение действует как ИИ-агент, который извлекает и обрабатывает данные, «векторизует» внешний контент (например, данные из GitHub, YouTube и текстовых файлов) и сохраняет его в локальном векторном индексе. Проще говоря, Gaia улучшает пользовательские запросы перед их обработкой ИИ-моделью, повышая точность и релевантность ответов.

 Источник изображений: amd.com

Гибридный установщик, оптимизированный для систем с процессорами Ryzen, который позволяет Gaia использовать встроенный в Ryzen AI нейропроцессор (NPU) и интегрированную графику для вычислений. Локальный запуск ИИ-моделей имеет ряд преимуществ по сравнению с облачными сервисами: данные остаются защищёнными, уменьшается задержка, а в некоторых случаях повышается производительность. Кроме того, локальные модели не требуют подключения к интернету.

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
Профессор РАН спрогнозировал появление в скором времени ИИ-аватаров людей 5 ч.
Новая статья: Hollywood Animal — тёмная сторона Голливуда. Предварительный обзор 5 ч.
Названа самая популярная версия Android на сегодняшний день и это отнюдь не Android 15 6 ч.
Microsoft наконец запустила для всех ИИ-функцию Recall, которая делает скриншоты всех действий пользователя на ПК 6 ч.
Релиз шутера La Quimera от бывших разработчиков Metro отложили после разгромных обзоров — игра должна была выйти сегодня 6 ч.
Capcom подразнила фанатов тизером Resident Evil 9 в новом ролике о ремейке Resident Evil 4 7 ч.
Администрация Трампа потребовала от ЕС отказаться от жёсткого регулирования ИИ 8 ч.
Продажи Clair Obscur: Expedition 33 за первые сутки превысили 500 тысяч копий, хотя игра доступна в Game Pass 9 ч.
Perplexity разрабатывает браузер с тотальной слежкой за пользователями для дорогой «гиперперсонализированной» рекламы 11 ч.
Microsoft применила генеративный ИИ в рекламе, но этого никто не заметил 11 ч.
NASA начало тестировать лунную поверхность на способность принять тяжёлые посадочные модули 7 ч.
TP-Link попала под двойное расследование из-за очень низких цен и угрозы нацбезопасности США 8 ч.
Роботакси на продажу: Waymo задумала предлагать беспилотные авто всем желающим 8 ч.
Curator: в I квартале количество DDoS-атак выросло более чем вдвое, а рекордный ботнет «захватил» сразу 1,33 млн устройств 9 ч.
Акции Intel обвалились на 7 % после провального квартального отчёта 10 ч.
GeForce RTX 5060 поступит в продажу 19 мая, если слухи не врут 12 ч.
Представлен Slate Truck — аналоговый электромобиль за $20 тысяч 12 ч.
Motorola представила смарт-часы Watch Fit с кристаллами Swarovski, а также версию попроще 12 ч.
MSI представила плату PRO Z890-S WiFi Project Zero с нестандартным расположением разъёмов питания 12 ч.
Gigabyte признала, что из её видеокарт вытекают термопрокладки — проблема уже исправлена 12 ч.