Сегодня 25 апреля 2025
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

AMD представила Gaia — открытое приложение для запуска ИИ локально на ПК с Windows

Запуск больших языковых моделей искусственного интеллекта локально на ПК — задача, которая становится всё более востребованной. Для её решения AMD выпустила Gaia — программу с открытым исходным кодом, предназначенную для работы с локальными ИИ-моделями на компьютерах под управлением Windows.

 Источник изображений: amd.com

Источник изображений: amd.com

Gaia предлагает дополнительную оптимизацию производительности для машин с процессорами Ryzen AI; вывод ИИ осуществляется при помощи средств Lemonade SDK. Программа позволяет адаптировать модели для различных целей: они могут составлять сводки больших текстов или обрабатывать сложные задачи, требующие умения рассуждать. Gaia работает через компонент Retrieval-Augmented Generation (RAG), объединяющий ИИ с базой знаний, благодаря чему пользователь получает более точные ответы на запросы в соответствии с контекстом.

RAG включает четыре агента:

  • Simple Prompt Completion — обеспечивает прямое взаимодействие с моделью, предназначено для тестирования и оценки.
  • Chaty — отвечает за интерфейс чат-бота.
  • Clip — выполняет поиск по YouTube с функцией вопросов и ответов.
  • Joker — генерирует шутки и добавляет чат-боту индивидуальности.
 Источник изображений: amd.com

Gaia решает специализированные задачи ИИ с помощью Lemonade SDK, работая в различных средах выполнения. Lemonade открывает веб-сервис для языковой модели и взаимодействует с приложением Gaia через совместимый с OpenAI REST API. Приложение действует как ИИ-агент, который извлекает и обрабатывает данные, «векторизует» внешний контент (например, данные из GitHub, YouTube и текстовых файлов) и сохраняет его в локальном векторном индексе. Проще говоря, Gaia улучшает пользовательские запросы перед их обработкой ИИ-моделью, повышая точность и релевантность ответов.

 Источник изображений: amd.com

Гибридный установщик, оптимизированный для систем с процессорами Ryzen, который позволяет Gaia использовать встроенный в Ryzen AI нейропроцессор (NPU) и интегрированную графику для вычислений. Локальный запуск ИИ-моделей имеет ряд преимуществ по сравнению с облачными сервисами: данные остаются защищёнными, уменьшается задержка, а в некоторых случаях повышается производительность. Кроме того, локальные модели не требуют подключения к интернету.

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
Microsoft пообещала исправить ошибку с чрезмерной нагрузкой на процессор в классическом Outlook 19 мин.
Спустя 25 лет GOG подарил новую жизнь ролевой классике от Capcom — Breath of Fire IV вновь доступна на ПК 31 мин.
Warhorse подтвердила планы на новую игру и показала геймплей дополнения Brushes with Death к Kingdom Come: Deliverance 2 33 мин.
Бесплатные пользователи ChatGPT получили доступ к исследованиям Deep Research, но с ограничениями 2 ч.
Платформа «CTI Мониторинг» получила расширенные средства аналитики проблем в работе ВКС-сервисов 2 ч.
«Яндекс» нарастил квартальную выручку на 34 % — компания похвалилась ростом по всем направлениям 3 ч.
Yahoo тоже попытается заполучить Chrome, если представится возможность 5 ч.
Продажи ремейка Resident Evil 4 достигли 10 миллионов копий — рекорд Resident Evil Village не устоял 7 ч.
YouTube выручила $8,9 млрд и отпраздновала 20-летие, объявив о новом рекорде загрузок видео 8 ч.
Meta ограничит спамерам охват аудитории и монетизацию в Facebook 11 ч.
Через пять лет ИИ-суперкомпьютер потребует для работы 9 атомных ректоров и будет стоить как три годовых бюджета Москвы 13 мин.
Phanteks выпустила СЖО Glacier One D30 X2 с радиаторами на 360 и 420 мм 59 мин.
Galax представила три оверклокерские GeForce RTX 5090D HOF стоимостью от $3605 2 ч.
Intel привлекла ИИ к обнаружению ошибок у чипов в ЦОД 2 ч.
Китай поделился с учёными из США свежими образцами лунного грунта, но ответного жеста не дождался 3 ч.
Nintendo собрала предзаказы на миллионы Switch 2 — в США и Японии консолей на всех не хватит 3 ч.
Пошлины Трампа должны были привести к выпуску iPhone в США, но Apple пойдёт другим путём 3 ч.
Xiaomi представила игровую мышь, механическую клавиатуру, пауэрбанк и колонку в стиле Гарри Поттера 3 ч.
Популярность беспилотных такси Waymo достигла 250 000 платных поездок в неделю 3 ч.
Квартальная выручка Intel в сегменте ЦОД превысила $4 млрд 4 ч.