Сегодня 11 июля 2025
18+
MWC 2018 2018 Computex IFA 2018
реклама
Теги → распределенная сеть

«Торрент для запуска ИИ»: вышла утилита для распределённого запуска ИИ-моделей на любом оборудовании

Большие языковые модели искусственного интеллекта требуют значительных ресурсов не только при обучении, но и при запуске — необходимы существенные объёмы оперативной памяти и мощные графические процессоры. Альтернативу предложили создатели Exo — бесплатной программы для распределённого запуска ИИ на нескольких устройствах. Почти как торренты, только для запуска ИИ.

 Источник изображения: github.com/exo-explore/exo

Источник изображения: github.com/exo-explore/exo

Приложение позволяет объединять вычислительные ресурсы нескольких компьютеров, смартфонов и даже одноплатных компьютеров, в том числе Raspberry Pi, для запуска моделей, с которыми ни одна из имеющихся в распоряжении пользователя систем не справилась бы самостоятельно. Ресурсы устройств объединяются по одноранговой сети.

Exo динамически распределяет нагрузку, создаваемую большой языковой моделью, по доступным в сети устройствам, размещая её слои, исходя из доступного объёма оперативной памяти и имеющейся вычислительной мощности. Поддерживаются LLaMA, Mistral, LlaVA, Qwen и DeepSeek. Программа устанавливается на устройства под управлением Linux, macOS, Android или iOS — версии под Windows пока нет. Для работы Exo требуется минимальная версия Python 3.12.0 и, в случае машин под Linux с графикой Nvidia, ряд других компонентов.

Модель ИИ, требующую 16 Гбайт оперативной памяти, можно запустить на двух ноутбуках с 8 Гбайт на каждом; а мощную DeepSeek R1, которой нужны 1,3 Тбайт памяти, в теории можно запустить на кластере из 170 Raspberry Pi 5 с 8 Гбайт. Скорость сети и задержка могут снизить качество работы модели, и разработчики Exo предупреждают, что устройства небольшой производительности способны замедлить ИИ, но с каждым добавленным в сети устройством общая производительность увеличивается. Нельзя также забывать об угрозах безопасности, которые неизбежно возникают при совместном выполнении рабочих нагрузок на нескольких машинах. И даже с учётом этих оговорок Exo представляется перспективной альтернативой облачным ресурсам.

NASA наделило рой спутников коллективным «разумом» и испытало технологию в космосе

Новую и недавно испытанную технологию NASA по распределённому автоматическому роевому управлению множеством спутников в общих чертах можно описать лозунгом «Общайтесь между собой, будьте на одной волне и работайте вместе, чтобы выполнить работу!». Такой подход позволяет отдельным космическим аппаратам принимать независимые решения, сотрудничая друг с другом для достижения общих целей и всё это без участия человека.

 Источник изображения: NASA

Источник изображения: NASA

Технология DSA (Distributed Spacecraft Autonomy) была испытана в малом масштабе в космосе на орбите Земли и в несколько большем — в лаборатории NASA. Испытания в космосе проводились с августа 2023 года по май 2024 года (четыре кубсата NASA Starling были запущены ракетой Electron компании Rocket Lab в июле 2023 года). Стендовые испытания на Земле ведутся около двух лет, и их масштаб постепенно расширяется. В совокупности эти два подхода позволили NASA продвинуться вперёд в создании распределённых вычислительных мощностей для спутниковых группировок.

На орбите Земли четыре кубсата впервые автономно провели научное исследование ионосферы. Программное обеспечение не содержало подробного плана работ — каждый из спутников самостоятельно принимал решения по коррекции орбиты, обмениваясь данными с другими аппаратами в рое. Спутники принимали сигналы GPS и оценивали их задержки, которые изменялись в зависимости от плотности и состояния ионосферы планеты. На основании собранных данных, а также обмена ими между аппаратами, каждый спутник формировал своё собственное исследование, результатами которого делился с остальными. Совместно они планировали дальнейшие шаги.

В лаборатории NASA исследователи собрали имитацию роя спутников в серверной стойке, используя бортовые компьютеры кубсатов. Этот рой тестировался в моделируемых условиях низкой и высокой окололунной орбиты. Перед системой стояли задачи создания распределённой сети для оказания навигационных услуг в окололунном пространстве и на поверхности Луны, а также координации времени на спутниках (низкая гравитация заставляет часы на Луне «тикать» быстрее). Моделирование показало, что автоматическая система распределения задач в роевой группировке без участия человека успешно справляется с управлением 60 спутниками. На следующем этапе NASA планирует увеличить их число до 100 и продолжить наращивание группировки.

«Технология распределённой автономии космических аппаратов действительно уникальна, — поясняют в агентстве. — Программное обеспечение наделяет спутниковый рой научной задачей и “разумом” для её выполнения». В будущем число спутников станет слишком большим для контроля со стороны операторов, и к этому лучше подготовиться заранее.


window-new
Soft
Hard
Тренды 🔥
Sony показала 17 минут геймплея Ghost of Yotei и анонсировала лимитированные PS5 в стиле игры 14 мин.
Агентство по охране окружающей среды США посетовало на непрекращающиеся попытки бездумного внедрения ИИ 2 ч.
TikTok уже приступил к реструктуризации американского бизнеса, хотя перспективы сделки не ясны 2 ч.
ГК «Гарда»: лишь треть российских компаний использует решения для защиты данных 2 ч.
Новая статья: В малом весе: обзор российских мобильных операционных систем 10 ч.
YouTube объявил о закрытии раздела «В тренде», но уже готовит ему замену 11 ч.
Первый геймплей боевика «Земский собор» от создателей «Смуты» не впечатлил игроков 11 ч.
Забастовка актёров озвучки игр наконец завершена — участники SAG-AFTRA одобрили новый договор 13 ч.
«Я был пьян, но утечки так и не случилось»: глава издательского отдела Larian рассказал, как чуть не «слил» дату выхода Baldur's Gate 3 14 ч.
Google Gemini научился превращать фото в восьмисекундные видео со звуком, но небесплатно 14 ч.
В облаке AWS появились инстансы EC2 P6e-GB200 UltraServer на базе ИИ-суперускорителей NVIDIA GB200 NVL72 52 мин.
В России стартовали продажи смартфона Honor X6c с мощной батареей и повышенной прочностью за 12 000 рублей 2 ч.
Электрический гиперкар Rimac Nevera R установил 24 новых мировых рекорда, разогнавшись до 431,45 км/ч 3 ч.
Huawei пытается продвигать свои ускорители вычислений на Ближнем Востоке и в Юго-Восточной Азии 4 ч.
Аналитики усомнились в рентабельности бизнеса Starlink после опубликованного отчёта 4 ч.
Масштабные планы Apple на 2026 год: новые Mac, iPad, iPhone и даже монитор 4 ч.
Глава Nvidia встретился с Дональдом Трампом перед визитом в Китай, капитализация компании превысила $4 трлн 6 ч.
Meta готовит новые умные очки Ray-Ban без дисплея, но с улучшенной батареей 6 ч.
Razer представила игровую мышь DeathAdder V4 Pro за $170 с оптическим колёсиком и сенсором на 45 000 DPI 12 ч.
Philips выпустила 27-дюймовый игровой монитор Evnia 27M2N3800A с поддержкой 4K@160 Гц и FHD@320 Гц 12 ч.