Сегодня 31 июля 2026
18+
MWC 2018 2018 Computex IFA 2018
реклама
Теги → ollama

Ollama получила поддержку аппаратного ускорения на чипах Apple M5 — при наличии 32 Гбайт памяти

Приложение Ollama, предназначенное для локального запуска моделей искусственного интеллекта на компьютерах под управлением Windows, macOS и Linux, получило поддержку аппаратного ускорения на системах с процессорами семейства Apple M5.

 Источник изображений: ollama.com

Источник изображений: ollama.com

В отличие от облачных приложений, таких как ChatGPT, модели которых не могут запускаться локально и требуют подключения к интернету, Ollama позволяет загружать и запускать модели ИИ непосредственно на бытовых компьютерах. Открытые модели публикуются на платформах сообществ или выкладываются напрямую разработчиками и свободно загружаются.

Однако их локальный запуск может быть непростой задачей, потому что модели ИИ, как правило, потребляют большие объёмы системной оперативной и видеопамяти. Чтобы преодолеть эту проблему, разработчики приложения добавили в Ollama 0.19 поддержку созданного Apple фреймворка машинного обучения MLX и унифицированной архитектуры памяти, благодаря чему скорость его работы на системах с чипами Apple возросла.

Правда, пока это касается только новейших чипов Apple M5, M5 Pro и M5 Max — приложение Ollama 0.19 обращается к нейроускорителям на платформе, сокращая время до выдачи первого токена и обеспечивая повышенную скорость генерации токенов в целом. В результате стали быстрее работать как персональные ИИ-агенты вроде OpenClaw, так и специализированные, в том числе OpenCode, Anthropic Claude Code и OpenAI Codex. Есть и ещё одно ограничение — на компьютере должно быть не менее 32 Гбайт унифицированной памяти.


window-new
Soft
Hard
Тренды 🔥
Издатель апокалиптического вестерна Guns of Eschaton показал последнее предсмертное интервью арт-директора Half-Life 2 Виктора Антонова 41 мин.
Вредоносное ПО научилось использовать ИИ прямо во время атаки — ESET предупредила о новых угрозах 2 ч.
Эмуляция PS5 покорила новый рубеж: отдельные 3D-игры показали вполне комфортные 30 FPS 2 ч.
«Худшее, что можно было сделать с игрой»: создатели Stellar Blade: Blood Rain возмутили фанатов сгенерированным ИИ музыкальным клипом с главной героиней 2 ч.
Многие игры на физических носителях не защищены от цифрового будущего — половина дисков для Xbox Series X не будет полноценно работать без интернета 4 ч.
Тим Кук намекнул на платную подписку Apple для активных пользователей ИИ 4 ч.
Китайская MiniMax выпустила генератор видео H3 5 ч.
ИИ упростил разработку приложений Meta — их станет больше 5 ч.
WhatsApp тестирует инструмент для простой очистки памяти каналов 6 ч.
Объём российского рынка IaaS к 2030 году более чем удвоится и достигнет 241 млрд рублей 6 ч.
Квартальная выручка Sony выросла почти на треть — помогли сенсоры для камер и фильм про Майкла Джексона 2 ч.
Microsoft за год запустила 88 дата-центров и снижать инвестици в инфраструктуру не намерена. 2 ч.
Seatrium намерена построить 30-МВт прибрежный ЦОД, свои проекты продвигают Atomarine и Mocean Energy 3 ч.
MediaTek выделит $5 млрд на разработку серверных процессоров и другие долгосрочные цели 3 ч.
Напечатанная на 3D-принтере метровая труба снизила температуру Ryzen 7 9800X3D на 19 °C без вентиляторов 3 ч.
Рекордный рост: капитализация Microsoft за день взлетела почти на $450 млрд 3 ч.
EuroHPC запускает тендер на строительство до семи ИИ-гигафабрик в Евросоюзе 3 ч.
Openchip представила европейский 2-нм процессор BER10 с архитектурой RISC-V 3 ч.
Nebius отчиталась об усилиях в области экологии и устойчивого развития 4 ч.
Crusoe и Aalo развернут первую ИИ-фабрику с питанием от SMR 4 ч.