Сегодня 04 июня 2025
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

Энтузиасты запустили современную ИИ-модель Llama на древнем ПК с Pentium II и Windows 98

Специалисты из EXO Labs сумели запустить довольно мощную большую языковую модель (LLM) Llama на 26-летнем компьютере, работающем под управлением операционной системы Windows 98. Исследователи наглядно показали, как загружается старый ПК, оснащённый процессором Intel Pentium II с рабочей частотой 350 МГц и 128 Мбайт оперативной памяти, после чего осуществляется запуск нейросети и дальнейшее взаимодействие с ней.

 Источник изображения: GitHub

Источник изображения: GitHub

Для запуска LLM специалисты EXO Labs задействовали собственный интерфейс вывода для алгоритма Llama98.c, который создан на базе движка Llama2.c, написанного на языке программирования C бывшим сотрудником OpenAI и Tesla Андреем Карпатым (Andrej Karpathy). После загрузки алгоритма его попросили создать историю о Сонном Джо. Удивительно, но ИИ-модель действительно работает даже на таком древнем ПК, причём история пишется с хорошей скоростью.

Загадочная организация EXO Labs, сформированная исследователями и инженерами из Оксфордского университета, вышла из тени в сентябре этого года. Согласно имеющимся данным, она выступает за открытость и доступность технологий на базе искусственного интеллекта. Представители организации считают, что передовые ИИ-технологии не должны находиться в руках горстки корпораций, как это происходят сейчас. В дальнейшем они рассчитывают «построить открытую инфраструктуру для обучения передовых ИИ-моделей, что позволит любому человеку запускать их где угодно». Демонстрация возможности запуска LLM на древнем ПК, по их мнению, доказывает то, что ИИ-алгоритмы могут работать практически на любых устройствах.

В своём блоге энтузиасты рассказали, что для реализации поставленной задачи на eBay был приобретён старый ПК с Windows 98. Затем, подключив устройство в сеть с помощью разъёма Ethernet, они через FTP сумели передать в память устройства нужные данные. Вероятно, компиляция современного кода для Windows 98 оказалась более сложной задачей, решить которую помогла опубликованная на GitHub работа Андрея Карпатого. В конечном счёте удалось добиться скорости генерации текста в 35,9 токенов в секунду при использовании LLM размером 260K с архитектурой Llama, что весьма неплохо, учитывая скромные вычислительные возможности устройства.

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
Драма с увольнением Альтмана из OpenAI будет экранизирована: главного «злодея» сыграет Юра Борисов 2 ч.
Дождались, но не «бету»: российский MMO-шутер Pioner скоро получит мультиплеерную демоверсию 10 ч.
Sony анонсировала большой июньский выпуск State of Play — он посвящён играм для PS5, которые нельзя пропускать 14 ч.
Nvidia App получило светлую тему и оптимальные настройки для 12 новых игр 15 ч.
Universal, Warner и Sony предложили ИИ-разработчикам лицензировать музыку для обучения нейросетей 15 ч.
Суд признал деятельность создателей «Мира танков» экстремистской и передал активы государству — в «Леста Игры» с решением «в корне не согласны» 17 ч.
Скорость распространения Windows 11 замедлилась 18 ч.
На МКС заработает российский ИИ — осенью там запустят GigaChat «Сбера» 20 ч.
Разработчик-одиночка анонсировал «Знамя победы» — гибрид стратегии и экшена на полях сражений Второй мировой войны 20 ч.
«Только вы, ваша машина и чистое веселье»: в ранний доступ Steam скоро ворвётся олдскульная боевая гонка Fumes 21 ч.
Маск заявил, что выручка SpaceX в коммерческом секторе превысит весь бюджет NASA в следующем году 3 мин.
Nvidia в очередной раз стала крупнейшей компанией в мире по величине капитализации 3 ч.
Nvidia утверждает, что консоль Switch 2 использует ИИ для улучшения игрового процесса 5 ч.
Razer представила геймерский коврик HyperFlux V2, который будет заряжать мышь во время использования 7 ч.
Samsung намекнула на выпуск ультратонкого смартфона-книжки Galaxy Z Fold 7 Ultra 8 ч.
Россия намерена запустить более 880 интернет-спутников до 2030 года 8 ч.
Broadcom представила самые быстрые в мире Ethernet-коммутаторы Tomahawk 6: 102,4 Тбит/с на чип и 1,6 Тбит/с на порт 9 ч.
Новая статья: Обзор Midea VCR S20 Plus: робот-пылесос — друг человека! 10 ч.
Шанс столкновения Млечного Пути с Андромедой упал до 50 % — но только на ближайшие 10 млрд лет 11 ч.
Представлена Arctis Nova 3 — самая доступная беспроводная гарнитура SteelSeries 13 ч.