Сегодня 05 июля 2025
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

AMD представила Gaia — открытое приложение для запуска ИИ локально на ПК с Windows

Запуск больших языковых моделей искусственного интеллекта локально на ПК — задача, которая становится всё более востребованной. Для её решения AMD выпустила Gaia — программу с открытым исходным кодом, предназначенную для работы с локальными ИИ-моделями на компьютерах под управлением Windows.

 Источник изображений: amd.com

Источник изображений: amd.com

Gaia предлагает дополнительную оптимизацию производительности для машин с процессорами Ryzen AI; вывод ИИ осуществляется при помощи средств Lemonade SDK. Программа позволяет адаптировать модели для различных целей: они могут составлять сводки больших текстов или обрабатывать сложные задачи, требующие умения рассуждать. Gaia работает через компонент Retrieval-Augmented Generation (RAG), объединяющий ИИ с базой знаний, благодаря чему пользователь получает более точные ответы на запросы в соответствии с контекстом.

RAG включает четыре агента:

  • Simple Prompt Completion — обеспечивает прямое взаимодействие с моделью, предназначено для тестирования и оценки.
  • Chaty — отвечает за интерфейс чат-бота.
  • Clip — выполняет поиск по YouTube с функцией вопросов и ответов.
  • Joker — генерирует шутки и добавляет чат-боту индивидуальности.
 Источник изображений: amd.com

Gaia решает специализированные задачи ИИ с помощью Lemonade SDK, работая в различных средах выполнения. Lemonade открывает веб-сервис для языковой модели и взаимодействует с приложением Gaia через совместимый с OpenAI REST API. Приложение действует как ИИ-агент, который извлекает и обрабатывает данные, «векторизует» внешний контент (например, данные из GitHub, YouTube и текстовых файлов) и сохраняет его в локальном векторном индексе. Проще говоря, Gaia улучшает пользовательские запросы перед их обработкой ИИ-моделью, повышая точность и релевантность ответов.

 Источник изображений: amd.com

Гибридный установщик, оптимизированный для систем с процессорами Ryzen, который позволяет Gaia использовать встроенный в Ryzen AI нейропроцессор (NPU) и интегрированную графику для вычислений. Локальный запуск ИИ-моделей имеет ряд преимуществ по сравнению с облачными сервисами: данные остаются защищёнными, уменьшается задержка, а в некоторых случаях повышается производительность. Кроме того, локальные модели не требуют подключения к интернету.

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
Еврокомиссия подтвердила: правила по ИИ вступят в силу без отсрочки 2 ч.
Microsoft закрыла офис в Пакистане после 25 лет работы 2 ч.
ChatGPT стал инструментом для фишеров — пользователи получают неправильные ссылки 2 ч.
Новая статья: Two Falls (Nishu Takuatshina) — в поисках взаимопонимания. Рецензия 7 ч.
Продюсер Xbox посоветовал уволенным сотрудникам обратиться к ИИ, чтобы «снять эмоциональную нагрузку» 7 ч.
Загадочный хоррор OD от Кодзимы не попал в число жертв Microsoft — «по крайней мере, пока» 7 ч.
Создатели Helldivers 2 ответили, выйдет ли игра в Game Pass — «однозначно» нет 7 ч.
Google изменит поиск под давлением ЕС: в топе выдачи теперь будут сайты конкурентов 8 ч.
Наследие 3dfx Interactive живёт: энтузиасты открыли дорогу к браузерной эмуляции культовых игр конца 90-х 8 ч.
Разработчики Subnautica 2 не объяснили внезапную смену руководства, но зато в игре не будет лутбоксов и боевых пропусков 10 ч.
В Китае набрали популярность «обманки» для автопилота Tesla, которые позволяют не держаться за руль 44 мин.
Загадочные кошельки с 10 000 биткоинов «ожили» спустя 14 лет 2 ч.
Sony приостановила продажи Xperia 1 VII из-за технических проблем 3 ч.
CoreWeave первой в отрасли развернула кластер на базе NVIDIA GB300 NVL72 4 ч.
Плотнее, быстрее, дешевле: керамические накопители Cerabyte готовятся составить конкуренцию LTO 7 ч.
ЕС наведёт порядок в космосе: готовится первый в истории «Европейский закон о космосе» 8 ч.
Испытания солью, пылью и асфальтом: Apple показала, как тестирует iPhone на прочность 8 ч.
США хотят ограничить поставки ИИ-чипов в Малайзию и Таиланд, потому что оттуда они нелегально мигрируют в Китай 10 ч.
Разработчик RISC-V-чипов Codasip готов продаться — целиком или по частям 11 ч.
ИИ провоцирует резкие скачки потребления электроэнергии, что разрушает энергетическую инфраструктуру по всему миру 11 ч.