Сегодня 30 июня 2025
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

Энтузиасты запустили современную ИИ-модель Llama на древнем ПК с Pentium II и Windows 98

Специалисты из EXO Labs сумели запустить довольно мощную большую языковую модель (LLM) Llama на 26-летнем компьютере, работающем под управлением операционной системы Windows 98. Исследователи наглядно показали, как загружается старый ПК, оснащённый процессором Intel Pentium II с рабочей частотой 350 МГц и 128 Мбайт оперативной памяти, после чего осуществляется запуск нейросети и дальнейшее взаимодействие с ней.

 Источник изображения: GitHub

Источник изображения: GitHub

Для запуска LLM специалисты EXO Labs задействовали собственный интерфейс вывода для алгоритма Llama98.c, который создан на базе движка Llama2.c, написанного на языке программирования C бывшим сотрудником OpenAI и Tesla Андреем Карпатым (Andrej Karpathy). После загрузки алгоритма его попросили создать историю о Сонном Джо. Удивительно, но ИИ-модель действительно работает даже на таком древнем ПК, причём история пишется с хорошей скоростью.

Загадочная организация EXO Labs, сформированная исследователями и инженерами из Оксфордского университета, вышла из тени в сентябре этого года. Согласно имеющимся данным, она выступает за открытость и доступность технологий на базе искусственного интеллекта. Представители организации считают, что передовые ИИ-технологии не должны находиться в руках горстки корпораций, как это происходят сейчас. В дальнейшем они рассчитывают «построить открытую инфраструктуру для обучения передовых ИИ-моделей, что позволит любому человеку запускать их где угодно». Демонстрация возможности запуска LLM на древнем ПК, по их мнению, доказывает то, что ИИ-алгоритмы могут работать практически на любых устройствах.

В своём блоге энтузиасты рассказали, что для реализации поставленной задачи на eBay был приобретён старый ПК с Windows 98. Затем, подключив устройство в сеть с помощью разъёма Ethernet, они через FTP сумели передать в память устройства нужные данные. Вероятно, компиляция современного кода для Windows 98 оказалась более сложной задачей, решить которую помогла опубликованная на GitHub работа Андрея Карпатого. В конечном счёте удалось добиться скорости генерации текста в 35,9 токенов в секунду при использовании LLM размером 260K с архитектурой Llama, что весьма неплохо, учитывая скромные вычислительные возможности устройства.

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
В Telegram появилась «Проверка фактов», но не у всех 32 мин.
Слухи: Bethesda подготовила новые трейлеры The Elder Scrolls VI, но не для широкой публики 34 мин.
Восток и Запад встречаются в дебютном трейлере дополнения Badlands к симулятору выживания DayZ 35 мин.
Безоговорочный возврат средств, скидка за лояльность и план патчей: создатели провального ремастера Warhammer 40,000: Space Marine обратились к игрокам 45 мин.
«Придётся пройти ещё раз»: звезда Assassin’s Creed IV: Black Flag недвусмысленно намекнула на неанонсированный ремейк игры 3 ч.
AirPods с живым переводом и Wi-Fi без паролей могут появиться в iOS 26 уже осенью 7 ч.
Президент США заявил, что покупатель для американских активов TikTok найден 7 ч.
Baidu откроет исходный код Ernie, что может изменить расстановку сил на мировом ИИ-рынке 7 ч.
Meta переманила из OpenAI ещё четырёх специалистов в области ИИ 29-06 06:57
Обновился формат изображений PNG — теперь в нём поддерживается HDR, анимация и Exif 29-06 01:31
ATP представила индустриальные SSD серий N651Si/N651Sc с повышенной долговечностью 5 мин.
Блоки питания TESLA: надёжность, защита и выгодная цена для любой сборки 13 мин.
Китайские электромобили станут безопаснее: власти ужесточат требования к защите батарей от возгораний и взрывов 43 мин.
Албания присоединилась к европейской суперкомпьютерной программе EuroHPC JU 2 ч.
CoreWeave снова пытается купить оператора ЦОД Core Scirntific, от которого зависит бизнес компании 3 ч.
ИИ от Palantir ускорит и удешевит строительство АЭС 4 ч.
Micron представила накопители Micron 2600 QLC с уровнем производительности памяти TLC 5 ч.
Подразделение Volkswagen займётся сдачей роботакси на базе минивэна ID. Buzz в аренду таксопаркам 5 ч.
Практически все характеристики наушников Nothing Headphones (1) стали известны до официального анонса 1 июля 6 ч.
Gigabyte выпустила RTX 5060 и RTX 5060 Ti в исполнениях Eagle Max и Windforce Max с полноразмерным разъёмом PCIe 7 ч.