Сегодня 18 сентября 2025
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

Энтузиасты запустили современную ИИ-модель Llama на древнем ПК с Pentium II и Windows 98

Специалисты из EXO Labs сумели запустить довольно мощную большую языковую модель (LLM) Llama на 26-летнем компьютере, работающем под управлением операционной системы Windows 98. Исследователи наглядно показали, как загружается старый ПК, оснащённый процессором Intel Pentium II с рабочей частотой 350 МГц и 128 Мбайт оперативной памяти, после чего осуществляется запуск нейросети и дальнейшее взаимодействие с ней.

 Источник изображения: GitHub

Источник изображения: GitHub

Для запуска LLM специалисты EXO Labs задействовали собственный интерфейс вывода для алгоритма Llama98.c, который создан на базе движка Llama2.c, написанного на языке программирования C бывшим сотрудником OpenAI и Tesla Андреем Карпатым (Andrej Karpathy). После загрузки алгоритма его попросили создать историю о Сонном Джо. Удивительно, но ИИ-модель действительно работает даже на таком древнем ПК, причём история пишется с хорошей скоростью.

Загадочная организация EXO Labs, сформированная исследователями и инженерами из Оксфордского университета, вышла из тени в сентябре этого года. Согласно имеющимся данным, она выступает за открытость и доступность технологий на базе искусственного интеллекта. Представители организации считают, что передовые ИИ-технологии не должны находиться в руках горстки корпораций, как это происходят сейчас. В дальнейшем они рассчитывают «построить открытую инфраструктуру для обучения передовых ИИ-моделей, что позволит любому человеку запускать их где угодно». Демонстрация возможности запуска LLM на древнем ПК, по их мнению, доказывает то, что ИИ-алгоритмы могут работать практически на любых устройствах.

В своём блоге энтузиасты рассказали, что для реализации поставленной задачи на eBay был приобретён старый ПК с Windows 98. Затем, подключив устройство в сеть с помощью разъёма Ethernet, они через FTP сумели передать в память устройства нужные данные. Вероятно, компиляция современного кода для Windows 98 оказалась более сложной задачей, решить которую помогла опубликованная на GitHub работа Андрея Карпатого. В конечном счёте удалось добиться скорости генерации текста в 35,9 токенов в секунду при использовании LLM размером 260K с архитектурой Llama, что весьма неплохо, учитывая скромные вычислительные возможности устройства.

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
Слухи: авиасимулятор Microsoft Flight Simulator 2024 взял курс на PS5 2 ч.
В «Рувики» ИИ займётся обновлением статей и борьбой с вандалами 2 ч.
Полноэкранный интерфейс Xbox оказался доступен для всех — Asus ROG Xbox Ally теряет эксклюзивность 2 ч.
AMD выпустила драйвер с поддержкой Radeon RX 7700 и Dying Light: The Beast 3 ч.
Разработчики Hollow Knight: Silksong объяснили, почему сделали игру такой сложной 3 ч.
OpenAI остаётся только завидовать — обучение китайской модели ИИ DeepSeek R1 обошлось всего в $294 тыс. 3 ч.
С каждым годом переносить эксклюзивы PlayStation на ПК для Sony становится всё выгоднее 4 ч.
Градостроительная стратегия Frostpunk 2 вышла на консолях, а версия для ПК получила полную поддержку геймпадов 5 ч.
Split Fiction стала первой в истории игрой, удостоившейся престижной премии «Выдающийся шведский дизайн» — награду вручил принц Швеции 5 ч.
Китай прекратил антимонопольное расследование по Google, чтобы бросить все силы против Nvidia 7 ч.
Northrop Grumman справилась с отказавшими двигателями — космогрузовик Cygnus XL долетел до МКС 2 ч.
Huawei пообещала создать «самый мощный в мире» ИИ-кластер, который в разы превзойдёт решения Nvidia 2 ч.
Учёные создали наношестерёнки размером с человеческую клетку, которые вращаются от лазера 3 ч.
AMD тайком выпустила Radeon RX 7700 с 16 Гбайт видеопамяти на 256-битной шине 3 ч.
TWS-наушники Nothing Ear (3) получили обновлённый дизайн и футляр с системой микрофонов Super Mic 3 ч.
Corsair представила ультралёгкую игровую мышь весом 36 граммов с автономностью до 70 часов 3 ч.
Акции Intel взлетели на новости об инвестициях Nvidia 3 ч.
Intel и Nvidia объявили о подготовке нескольких поколений x86-процессоров с графикой Nvidia для ПК и ЦОД 4 ч.
Oracle добавит ИИ-сервисы в облако UK Sovereign Cloud в рамках инвестиционного плана на $5 млрд 4 ч.
Стартап Carbon3.ai намерен развернуть в Великобритании экологичную суверенную ИИ-инфраструктуру 5 ч.