Сегодня 18 июня 2024
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

Microsoft представила малую языковую модель Phi-3-Silica для компьютеров Copilot Plus PC

Вслед за презентацией компактной ИИ-модели Phi-3-vision, компания Microsoft представила на ежегодной конференции Microsoft Build 2024 ещё одну малую языковую модель (SLM) Phi-3-Silica, которая будет использоваться на компьютерах класса Copilot Plus PC. Эти ПК оснащены чипами со встроенным нейронным сопроцессором (NPU), обеспечивающим локальную работу функций на основе ИИ.

 Источник изображения: Pixabay

Источник изображения: Pixabay

Это самая маленькая из всех моделей семейства Phi-3, обладающая 3,3 млрд параметров. Семейство Phi-3 также включает модель Phi-3-mini с 3,8 млрд параметров, Phi-3-vision (4,2 млрд параметров), Phi-3-small (7 млрд параметров) и Phi-3-medium (14 млрд параметров).

Как ожидается, первые ноутбуки под брендом Copilot Plus PC со встроенной Phi-3-Silica поступят в продажу в июне этого года. По данным Microsoft, показатель Time to first token (TTFT) у Phi-3-Silica составляет 650 токенов в секунду, а при работе модель потребляет около 1,5 Вт, освобождая мощности процессора и графического ускорителя ПК для обработки других вычислений. При генерации токенов модель повторно использует кеш-память KV NPU, сама генерация осуществляется на ЦП со скоростью примерно 27 токенов в секунду.

«Модели Phi-3 значительно превосходят языковые модели того же и большего размера по ключевым показателям. Phi-3-mini работает лучше, чем модели вдвое большего размера, а Phi-3-small и Phi-3-medium превосходят гораздо более крупные модели, включая GPT-3.5T», — отметила Microsoft.

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Вечерний 3DNews
Каждый будний вечер мы рассылаем сводку новостей без белиберды и рекламы. Две минуты на чтение — и вы в курсе главных событий.
Материалы по теме
Прежде чем оставить комментарий, пожалуйста, ознакомьтесь с правилами комментирования. Оставляя комментарий, вы подтверждаете ваше согласие с данными правилами и осознаете возможную ответственность за их нарушение.
Все комментарии премодерируются.
Комментарии загружаются...

window-new
Soft
Hard
Тренды 🔥
Директор по маркетингу Xbox променял Microsoft на Roblox 3 ч.
С чистого листа: VMware возобновила сотрудничество с Dell и подписала OEM-соглашения с Lenovo и HPE 3 ч.
Утечка раскрыла первые детали сюжета и концепт-арты Wonder Woman — одиночного боевика про Чудо-женщину от создателей Middle-earth: Shadow of War 4 ч.
Календарь релизов 17–23 июня: Elden Ring: Shadow of the Erdtree, Still Wakes the Deep и Aska 4 ч.
На Adobe подали в суд из-за слишком сложного механизма отмены платных подписок 4 ч.
«Стремимся двигаться дальше и делать что-то новое»: патч с поддержкой модов станет последним крупным обновлением для Baldur's Gate 3 5 ч.
В Windows 11 вернулась полезная функция из Windows 10 — «Списки быстрого перехода» в меню «Пуск» 7 ч.
CI Games подтвердила, когда выйдет следующая Lords of the Fallen — похоже, на ПК игра станет эксклюзивом Epic Games Store 7 ч.
Google сменила приоритет в ИИ: коммерческие продукты взяли верх над научными исследованиями 8 ч.
Следующая презентация Nintendo Direct пройдёт уже завтра — новостей о Switch 2 на ней не будет 8 ч.
Новая статья: Кремниевая фотоника: нерядовой инструментарий для нерядовых задач 42 мин.
Nvidia подала апелляцию по делу об обмане акционеров в первый майнинговый бум 6 лет назад 2 ч.
Минпромторг опроверг информацию о приостановке субсидирования радиоэлектроники 3 ч.
Новая статья: Обзор планшета HUAWEI MatePad 11,5''S PaperMatte: недорогой профессионал 3 ч.
Три квантовых компьютера, NVIDIA DGX Quantum, немножко HPC и облако: в Израиле открыт уникальный центр квантовых вычислений IQCC 4 ч.
Samsung собралась устанавливать память HBM4 прямо на кристаллы GPU 4 ч.
Следующие Apple Watch станут тоньше, получат увеличенный экран и часть их компонентов напечатают на 3D-принтере 7 ч.
Logitech представила электронное перо MX Ink для VR-гарнитур Meta Quest 10 ч.
В России выйдут телефоны Philips Xenium с высокой автономностью 10 ч.
Zephyr выпустила самую компактную GeForce RTX 4070 — у неё всего один вентилятор, причём розовый 12 ч.