Сегодня 20 августа 2025
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

В Microsoft разработали сверхэффективную ИИ-модель, которая запускается на CPU

Исследователи из Microsoft сообщили о разработке самой масштабной однобитной модели искусственного интеллекта — такой архитектурный подход называется «битнет». Модель BitNet b1.58 2B4T выложена в открытый доступ по лицензии MIT, и для её работы достаточно центрального процессора, в том числе Apple M2.

Системы «битнет» — это сжатые модели, предназначенные для запуска на оборудовании невысокой производительности. В случае стандартных моделей веса — значения, которые определяют её внутреннюю структуру, — зачастую квантуются. При квантизации уменьшается количество битов, необходимых для представления весов, а модели получают возможность быстрее работать на системах с меньшим объёмом памяти. Битнет предполагает квантование веса в три значения: «-1», «0» и «1», то есть в теории такие модели оказываются значительно эффективнее с точки зрения памяти и вычислительных ресурсов, чем большинство современных систем ИИ.

BitNet b1.58 2B4T, утверждают в Microsoft, — это первая модель на основе данной архитектуры, у которой 2 млрд параметров, причём параметры в значительной степени — то же, что веса. Она была обучена на массиве данных в 4 трлн токенов, что, по оценкам, эквивалентно примерно 33 млн книг. BitNet b1.58 2B4T не уступает аналогичным моделям того же размера: она превзошла Meta Llama 3.2 1B, Google Gemma 3 1B и Alibaba Qwen 2.5 1.5B в тестах GSM8K (математика уровня начальной школы) и PIQA (оценка здравого смысла). При этом модель в некоторых случаях работает вдвое быстрее аналогов и использует меньше памяти.

Но есть один нюанс: для достижения максимальной производительности модели необходим разработанный Microsoft фреймворк bitnet.cpp, который поддерживает лишь определённое оборудование. В списке поддерживаемых чипов отсутствуют графические процессоры, без которых современная отрасль ИИ немыслима. Таким образом, архитектурный подход «битнет» представляется перспективным направлением, но препятствием пока является аппаратная совместимость.

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
Ярость войны, напалм и масштаб: анонсирован многопользовательский шутер Hell Let Loose: Vietnam 34 мин.
Сюжетная ролевая игра Rue Valley, вдохновлённая Disco Elysium и «Днём сурка», получила дату выхода и новый геймплейный трейлер 3 ч.
«Не терпится купить 12 DLC, чтобы получить полную игру»: Paradox раскрыла дату выхода Europa Universalis V, но фанаты делать предзаказ не спешат 4 ч.
Китайцы запустили ИИ-стримера-продавца, который превосходит человека и готов работать круглосуточно 4 ч.
Как Overwatch, но с танками: создатели World of Tanks анонсировали геройский шутер World of Tanks: Heat 5 ч.
Тысячи приватных диалогов с Grok утекли в поиск Google 6 ч.
Больше никаких «Меня слышно?» — в Microsoft Teams появится индикатор работы микрофона 6 ч.
Популярное VPN-расширение для Chrome уличили в создании скриншотов всех сайтов и отправке их неизвестно куда 6 ч.
В новом трейлере Resident Evil Requiem показали встречу главной героини с матерью, которая пошла не по плану 7 ч.
S.T.A.L.K.E.R. 2: Heart of Chornobyl выйдет на PS5 спустя ровно год после релиза на PC и Xbox — GSC показала новый трейлер 7 ч.
Qualcomm представила процессоры Snapdragon W5 Gen 2 и W5+ Gen 2 для смарт-часов со спутниковой связью 36 мин.
Google представила смарт-часы Pixel Watch 4 с поддержкой спутниковой связи 2 ч.
Google сделала свой MagSafe: магнитное крепление Pixelsnap для зарядки и не только 2 ч.
Портрет всего человечества с расстояния 290 млн км: межпланетная станция «Психея» запечатлела Землю и Луну 2 ч.
«Роскосмос» запустил на орбиту 75 мышей и 1500 мух на спутнике «Бион-М» — через месяц они вернутся в Россию 2 ч.
Google представила беспроводные наушники Pixel Buds 2a со сменной батареей в чехле и активным шумоподавлением за $129 2 ч.
MSI представила самую оверклокерскую плату MEG X870E Godlike X Edition, а также модели X870E MAX попроще 2 ч.
MSI показала видеокарту GeForce RTX 5000 в стиле World of Warcraft: Midnight 2 ч.
Портативные приставки Xbox от Asus поступят в продажу 16 октября 3 ч.
Представлен Google Pixel 10 Pro Fold — первый складной смартфон с полной защитой от пыли 3 ч.