Сегодня 05 августа 2026
18+
MWC 2018 2018 Computex IFA 2018
реклама
Теги → микроконтроллер

ИИ-модели могут работать на чём угодно: энтузиаст запустил LLM на микроконтроллере за $10

В 2026 году большие языковые модели можно локально запускать на ноутбуках и даже смартфонах. Энтузиаст под псевдонимом SlvDev запустил небольшую языковую модель локально на микроконтроллере ESP32-S3 за $10 и добился скорости работы без малого 10 токенов в секунду.

 Источник изображения: Igor Omilaev / unsplash.com

Источник изображения: Igor Omilaev / unsplash.com

Микроконтроллер ESP32-S3 располагает 520 кбайт SRAM и 8 Мбайт псевдо-SRAM (PSRAM). Он предназначен для управления удалёнными датчиками устройствами интернета вещей и другим оборудованием — модель класса DeepSeek V4 Flash на нём запустить не получится. Вместо неё энтузиаст выбрал систему в 10 000 раз компактнее — разработанную Microsoft Research модель TinyStories с 28,9 млн параметров.

В исходном виде и она оказалась слишком объёмной для ESP32-S3: при 16-битной точности ей требуются около 60 Мбайт пространства, которого на микроконтроллере просто нет. Поэтому на начальном этапе автор проекта провёл квантование — сжал веса модели с 16 до 8, а затем и до 4 битов. В результате модель стала занимать 14,9 Мбайт, и для её установки пришлось приобрести вариант микроконтроллера с флеш-памятью на 16 Мбайт.

Далее энтузиаст провёл ещё одну операцию — реализовал механизм послойного встраивания (Per-layer embedding — PLE), который используется в архитектуре открытых моделей Google Gemma. В результате значительную часть весов модели или 25 млн параметров размером 12 Мбайт он перенёс во флеш-память, обращения к которой будут производиться относительно нечасто, а в оперативную память контроллера поместил лишь 2 Мбайт данных. В результате входные заголовки и кеш ключ-значение (KV) оказались в PSRAM, а для активации хватило 520 кбайт на SRAM. Благодаря этим мерам удалось получить генерацию со скоростью 9,88 токенов в секунду — быстрее, чем может читать среднестатистический человек.

Модель Tiny Stories стала отличным примером для демонстрации концепции, но она только генерирует короткие истории, и этого недостаточно даже для запуска чат-бота. Есть ещё имеющая схожие размеры модель Barista, и она уже умеет отвечать на вопросы, причём генерирует токены вдвое быстрее, но только на темы, связанные с эспрессо. Обе модели слишком маленькие, чтобы делать что-то ещё, но сам факт их работы на ESP32 уже впечатляет.

Энтузиаст построил видеокарту из 8192 копеечных чипов RISC-V

Чрезмерно экстравагантное решение предложил YouTube-блогер под ником Bitluni в качестве альтернативы современным видеокартам — разработать собственную плату и за полгода, преодолев немалые трудности, собрать кластер, способный обеспечить вывод изображения на QVGA-дисплей с разрешением 320 × 240 пикселей.

 Источник изображения: youtube.com/@bitluni

Источник изображения: youtube.com/@bitluni

В прошлом году Bitluni имел неосторожность опубликовать на своём канале видео, в котором подробно описывался графический процессор собственной разработки. Проектом заинтересовалась компания Altium, которая специализируется на ПО для разработки печатных плат, и обратилась к энтузиасту с предложением о сотрудничестве. В результате на свет появился кластер на основе 8192 микроконтроллеров CH570 на архитектуре RISC-V стоимостью $0,13 за каждый, а также 256 более крупных ядер и блоков обработки чисел с плавающей запятой (FPU).

Каждый из чипов CH570, которые Bitluni приобрёл для проекта, обратившись напрямую к производителю, работает на частоте 100 МГц и имеет 12 Кбайт SRAM, а шестислойная печатная плата включает 32 ряда по 32 чипа. Проект оказался слишком масштабным, чтобы сайт производителя смог обработать такой заказ, поэтому каждый «блейд» пришлось делить на блоки. Когда энтузиаст получил тестовую плату, несколько микроконтроллеров либо не работали, либо функционировали с перебоями — потребовалась полная переработка проекта и перенос дорожек во избежание помех. Второй прототип показал, что в схеме перепутаны линии MOSI и MISO: входной сигнал отправлялся в выходной канал и наоборот.

В итоге систему удалось заставить работать — все RGB-светодиоды, каждый из которых индивидуально связан с контроллером, функционируют в QVGA-эквиваленте. Bitluni пообещал опубликовать все файлы проекта и выпустить обновлённый вариант, в котором будет уже не 8192, а 32 000 микроконтроллеров.

«Байкал Электроникс» поставит компании «Реглаб» 1,5 млн чипов Baikal-U — ими заменят микропроцессоры STMicroelectronics

«Байкал Электроникс» в течение 5 лет поставит 1,5 млн микроконтроллеров Baikal-U (BE-U1000) отечественному производителю оборудования для систем автоматизации «Реглаб», сообщил российский Forbes. Всего в 2026 году на российский рынок планируется поставить 1 млн таких чипов.

 Источник изображения: «Байкал Электроникс»

Источник изображения: «Байкал Электроникс»

«Реглаб стал первым крупным промышленным покупателем серийных микроконтроллеров Baikal-U для встраивания их в свои решения в области АСУ ТП», — говорится в совместном пресс-релизе двух компаний.

Отгрузка первой партии микроконтроллеров в количестве 150 тыс. штук стоимостью более 100 млн рублей запланирована на первое полугодие 2026 года. Чипы будут использоваться в продуктах «Реглаб». В пресс-релизе отмечается, что данный шаг является важным на пути к полному импортозамещению ключевых компонентов российских систем промышленной автоматизации.

Со ссылкой на гендиректора «Реглаб» Андрея Ульянова издание Forbes сообщает, что компания в производстве своего оборудования использует микропроцессоры европейской группы STMicroelectronics (STM). «Реглаб» выпускает около 300 тыс. модулей в год. Каждый содержит от одного до двух микроконтроллера STM. То есть компания использует около 500 тыс. микроконтроллеров STM в год. По его словам, теперь она планирует закупать микросхемы «Байкал Электроникс», разработанные для «Реглаб», которые будут использоваться в производстве в качестве аналога продукции STM и в меньшем количестве.

С инициативой закупить микросхемы «Байкал Электроникс» выступила сама «Реглаб», отметил Ульянов. По его словам, хотя у компании есть возможность закупать продукцию STM «даже, наверное, дешевле «Байкала. Но мы этого делать не будем. Либо ты развиваешь своё, либо ты постоянно живешь на чужом. Это и есть тот самый технологический суверенитет. Это факт».

Гендиректор «Байкал Электроникс» Андрей Евдокимов отметил, что заключение долгосрочного контракта с «Реглаб» подтверждает, что отечественные микроконтроллеры готовы к массовому промышленному применению. Компания планирует поставить на рынок в 2026 году 1 млн микроконтроллеров Baikal-U. Сотрудничество с «Реглаб» является крупнейшим шагом к реализации этой цели.

Серийные поставки Baikal-U (BE-U1000) начались в конце 2025 года. Микроконтроллер предназначен для индустриального применения на объектах критической информационной инфраструктуры, в составе роботизированных комплексов АСУ ТП и датчиков безопасности. Наличие функции управления электродвигателями и высокие характеристики энергоэффективности позволяют применять его в системах управления беспилотными летательными аппаратами.

В составе микроконтроллера используются отечественные ядра от санкт-петербургской компании Cloudbear. Чип содержит два ядра BR-350 на архитектуре RISC-V с частотой 200 МГц и одно ядро BM-310, работающее на частоте 100 МГц. Микроконтроллер имеет 192 Кбайт SRAM (включая 160 Кбайт ТСМ), 256 Кбайт eFlash, 16 Мбайт Flash (в XIP режиме). Он поддерживает интерфейсы USB 2.0 OTG + PHY (HS), два CAN FD, восемь UART (2 × UART с поддержкой режима работы RS-485), четыре SPI (2 ведущих + 2 ведомых), два QSPI, четыре I2C и два I2S. Более подробно о микроконтроллере можно узнать на сайте компании «Байкал Электроникс».

Британский стартап показал гибкий 32-битный процессор с ИИ, который можно накрутить на карандаш

Британский стартап Pragmatic Semiconductor представил 32-битный гибкий микроконтроллер для запуска моделей машинного обучения при цене менее $1. Микроконтроллер Flex-RV основан на открытой архитектуре RISC-V, а вместо традиционного кремния в нём используется другой материал.

 Источник изображения: nature.com

Источник изображения: nature.com

На смену кремнию во Flex-RV пришёл оксид индия, галлия и цинка (IGZO), а ключевым новшеством стал отказ от сложной и дорогой упаковки, которая необходима хрупким кремниевым чипам в качестве механической защиты. IGZO-транзисторы печатаются прямо на пластиковой подложке при низкой температуре. Pragmatic продемонстрировала, как гибкий микроконтроллер обернулся вокруг стержня, а затем, будучи развёрнутым обратно, он в штатном режиме выполнил код. На демонстрации специалист компании обращался с компонентом очень осторожно, то есть полной свободы действий микроконтроллер не обещает, но и имеющиеся возможности представляются многообещающими.

Высокой производительности ждать не приходится: на борту прототипа Flex-RV всего 12 600 логических вентилей, а его тактовая частота составляет лишь 60 кГц или 0,00006 ГГц, если сравнивать с геймерским оборудованием. Но зато здесь есть маломощный ускоритель алгоритмов машинного обучения. Для обучения GPT-4 он не годится, но с показателем потребления энергии менее 6 мВт Flex-RV идеально подойдёт для работы в одноразовых медицинских устройствах, гибких носимых гаджетах, мягкой робототехнике и интерфейсах мозг-компьютер. Открытый набор инструкций RISC-V означает, что не нужно производить лицензионные выплаты, и это помогает снизить стоимость компонента.

В ходе тестирования микроконтроллер продолжал работать при изгибе до радиуса 5 мм. Пропускная способность варьировалась в пределах единичных процентов, но в целом Flex-RV вполне справлялся с изгибом. Его отличие от многих подобных проектов в том, что здесь используются не жёсткие компоненты на гибкой печатной плате — интегральная схема микроконтроллера тоже может скручиваться и деформироваться.


window-new
Soft
Hard
Тренды 🔥
По долгу Electronic Arts будут расплачиваться сотрудники — после перехода под контроль Саудовской Аравии издатель готовит массовые увольнения 7 мин.
Moonlighter 2: The Endless Vault скоро вырвется из бесконечного хранилища раннего доступа Steam — дата выхода 1.0 и раздача первой игры 2 ч.
Разработчики Android-приложений непреднамеренно сливают местоположения пользователей рекламодателям 3 ч.
Google назвала дату отключения «Ассистента» на Android и Wear OS 3 ч.
Samsung первой в мире запустила HDR10+ Advanced — технология дебютирует в Prime Video 3 ч.
Microsoft призвала инженеров не злоупотреблять использованием ИИ — это дорого 3 ч.
Исследователи уличили ИИ-агентов OpenAI и Anthropic в новых попытках взлома 5 ч.
Исследователи «спустили с поводка» ИИ-модели — те попытались добавить вредоносный код в открытое ПО 6 ч.
Белый дом не станет раскрывать свою схему тестирования ИИ-моделей на безопасность 6 ч.
Doom запустили прямо в Paint — и к этому причастен технический директор Microsoft Azure 6 ч.
GlobalFoundries тоже откусила кусок ИИ-пирога и превзошла прогнозы Уолл-стрит во втором квартале 41 мин.
Астрономы научились предсказывать солнечные бури с точностью до получаса — это в десять раз лучше прежнего 2 ч.
AMD привезёт на IFA 2026 «персональный ИИ» — ожидаются новые Ryzen 2 ч.
В России создали первый маломощный спутниковый двигатель на криптоне — такие используют спутники Starlink 2 ч.
Anthropic начала набирать команду для разработки собственных ИИ-чипов 2 ч.
Акции SpaceX вошли в крутое пике — инвесторов напугали беспрецедентные расходы на ИИ 2 ч.
Samsung готовит недорогие смарт-часы Galaxy Aero без Wear OS, но это не точно 2 ч.
Samsung придумала, как почти избавиться от складки на экране складных смартфонов 2 ч.
Смартфоны Google Pixel 11 получат RGB-подсветку HiLight — утечка показала её предназначение 2 ч.
Китай ускорил развёртывание конкурента Starlink — на орбиту отправилась 23-я группа спутников 5 ч.