Сегодня 24 июня 2025
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

Энтузиасты запустили современную ИИ-модель Llama на древнем ПК с Pentium II и Windows 98

Специалисты из EXO Labs сумели запустить довольно мощную большую языковую модель (LLM) Llama на 26-летнем компьютере, работающем под управлением операционной системы Windows 98. Исследователи наглядно показали, как загружается старый ПК, оснащённый процессором Intel Pentium II с рабочей частотой 350 МГц и 128 Мбайт оперативной памяти, после чего осуществляется запуск нейросети и дальнейшее взаимодействие с ней.

 Источник изображения: GitHub

Источник изображения: GitHub

Для запуска LLM специалисты EXO Labs задействовали собственный интерфейс вывода для алгоритма Llama98.c, который создан на базе движка Llama2.c, написанного на языке программирования C бывшим сотрудником OpenAI и Tesla Андреем Карпатым (Andrej Karpathy). После загрузки алгоритма его попросили создать историю о Сонном Джо. Удивительно, но ИИ-модель действительно работает даже на таком древнем ПК, причём история пишется с хорошей скоростью.

Загадочная организация EXO Labs, сформированная исследователями и инженерами из Оксфордского университета, вышла из тени в сентябре этого года. Согласно имеющимся данным, она выступает за открытость и доступность технологий на базе искусственного интеллекта. Представители организации считают, что передовые ИИ-технологии не должны находиться в руках горстки корпораций, как это происходят сейчас. В дальнейшем они рассчитывают «построить открытую инфраструктуру для обучения передовых ИИ-моделей, что позволит любому человеку запускать их где угодно». Демонстрация возможности запуска LLM на древнем ПК, по их мнению, доказывает то, что ИИ-алгоритмы могут работать практически на любых устройствах.

В своём блоге энтузиасты рассказали, что для реализации поставленной задачи на eBay был приобретён старый ПК с Windows 98. Затем, подключив устройство в сеть с помощью разъёма Ethernet, они через FTP сумели передать в память устройства нужные данные. Вероятно, компиляция современного кода для Windows 98 оказалась более сложной задачей, решить которую помогла опубликованная на GitHub работа Андрея Карпатого. В конечном счёте удалось добиться скорости генерации текста в 35,9 токенов в секунду при использовании LLM размером 260K с архитектурой Llama, что весьма неплохо, учитывая скромные вычислительные возможности устройства.

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
Заявка на успех: более миллиона человек уже добавили Resident Evil Requiem в список желаемого 17 мин.
Windows 11 позволит перемещать индикаторы громкости и яркости 24 мин.
Провальный запуск MindsEye обернулся для новой студии экс-продюсера GTA массовыми увольнениями 47 мин.
ИИ-поиск Google стал подстраиваться под каждого пользователя, собирая данные о его активности 53 мин.
Nightdive отложила релиз System Shock 2: 25th Anniversary Remaster, но не для ПК 2 ч.
Каждый продвинутый ИИ сам научился врать и манипулировать — даже рассуждая «вслух» 3 ч.
Всего за год отечественный спрос на специалистов по безопасности ИИ вырос в 4 раза 3 ч.
Великобритания заставит Google ослабить контроль над своим поисковиком 4 ч.
GSC Game World подтвердила дату выхода следующего крупного обновления для S.T.A.L.K.E.R. 2: Heart of Chornobyl 5 ч.
Амбициозная ролевая песочница Hytale в духе Minecraft спустя десять лет разработки отменена, а студия будет расформирована 6 ч.
Свет против санкций: опытный китайский оптический чип Meteor-1 вдвое опередил GeForce RTX 4090 в задачах ИИ 10 мин.
Noctua выпустила передовые 120-мм вентиляторы NF-A12x25 G2 по цене $35 34 мин.
Продажи Ethernet-коммутаторов NVIDIA за год выросли на 760 % благодаря спросу на ИИ 2 ч.
Секретный ИИ-гаджет OpenAI и Джони Айва не будет носимым и выйдет не раньше 2026 года 3 ч.
Роботакси Tesla за два дня работы привлекли внимание американских властей странными манёврами 4 ч.
Lenovo анонсировала новые системы для дата-центров, оптимизированные для ИИ 4 ч.
Samsung подтвердила презентацию Unpacked 9 июля — покажут много новых складных смартфонов 5 ч.
В MIT придумали бустер для CPU и GPU — крошечный дискретный GaN-транзистор «дайлет» 5 ч.
Китай пообещал сотню прорывов в сфере ИИ, сопоставимых с выходом DeepSeek 5 ч.
Samsung заманивает инженеров на американские фабрики огромными зарплатами — в 1,5–2 раза выше, чем у Intel и TSMC 6 ч.