Сегодня 28 сентября 2024
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

Microsoft представила малую языковую модель Phi-3-Silica для компьютеров Copilot Plus PC

Вслед за презентацией компактной ИИ-модели Phi-3-vision, компания Microsoft представила на ежегодной конференции Microsoft Build 2024 ещё одну малую языковую модель (SLM) Phi-3-Silica, которая будет использоваться на компьютерах класса Copilot Plus PC. Эти ПК оснащены чипами со встроенным нейронным сопроцессором (NPU), обеспечивающим локальную работу функций на основе ИИ.

 Источник изображения: Pixabay

Источник изображения: Pixabay

Это самая маленькая из всех моделей семейства Phi-3, обладающая 3,3 млрд параметров. Семейство Phi-3 также включает модель Phi-3-mini с 3,8 млрд параметров, Phi-3-vision (4,2 млрд параметров), Phi-3-small (7 млрд параметров) и Phi-3-medium (14 млрд параметров).

Как ожидается, первые ноутбуки под брендом Copilot Plus PC со встроенной Phi-3-Silica поступят в продажу в июне этого года. По данным Microsoft, показатель Time to first token (TTFT) у Phi-3-Silica составляет 650 токенов в секунду, а при работе модель потребляет около 1,5 Вт, освобождая мощности процессора и графического ускорителя ПК для обработки других вычислений. При генерации токенов модель повторно использует кеш-память KV NPU, сама генерация осуществляется на ЦП со скоростью примерно 27 токенов в секунду.

«Модели Phi-3 значительно превосходят языковые модели того же и большего размера по ключевым показателям. Phi-3-mini работает лучше, чем модели вдвое большего размера, а Phi-3-small и Phi-3-medium превосходят гораздо более крупные модели, включая GPT-3.5T», — отметила Microsoft.

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Вечерний 3DNews
Каждый будний вечер мы рассылаем сводку новостей без белиберды и рекламы. Две минуты на чтение — и вы в курсе главных событий.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
«Придётся купить ещё раз»: вдохновлённый Hollow Knight и Sekiro экшен-платформер Nine Sols доберётся до консолей и Game Pass в ноябре 7 ч.
Новая статья: Age of Mythology: Retold — мифы, поведанные заново. Рецензия 8 ч.
Новый Outlook передаёт всю вашу почту в облако Microsoft — отказаться от этого нельзя 9 ч.
Ubisoft раскрыла план по улучшению Star Wars Outlaws к релизу в Steam 9 ч.
Вдохновлённый оригами экшен-платформер Hirogami от создателей Soul Calibur 6, Ace Combat 7 и Tekken 8 отправит игроков в мир, сделанный из бумаги 11 ч.
Студия-разработчик Vampire Survivors станет издателем игр, но не обычным 12 ч.
Konami показала 11 минут геймплея Metal Gear Solid Delta: Snake Eater в джунглях Советского Союза 13 ч.
Южная Корея ввела уголовную ответственность за просмотр, хранение и  распространение сексуальных дипфейков 14 ч.
В «Яндекс Музыке» теперь можно смотреть видеоклипы без подписки 14 ч.
Meta хранила пароли европейцев в открытом виде — её оштрафовали на €91 млн 15 ч.
Регуляторы рекомендуют китайским разработчикам отказываться от ускорителей Nvidia в пользу китайских аналогов 20 мин.
NASA и «Роскосмос» не пришли к единому мнению, какой уровень утечки воздуха в модуле «Пирс» считать неприемлемым 57 мин.
В России протестировали технологию мысленного управления «Газелью» — через нейроинтерфейс и акселерометр 7 ч.
Периферия от гения: Higround выпустила спецсерию клавиатур Basecamp 65, к которым приложил руку Хидео Кодзима 9 ч.
Учёные поняли, почему котики бьются током — раскрыта тайна статического электричества 9 ч.
Минюст США начал расследование деятельности Supermicro — акции компании снова упали 10 ч.
Ampere создаст кастомные Arm-процессоры для Uber 10 ч.
Infinix представила свою первую раскладушку Zero Flip с 6,9-дюймовым экраном, тремя 50-Мп камерами и чипом Dimensity 8020 за $645 11 ч.
Миллионы автомобилей Kia можно взломать, просто отсканировав номерной знак 13 ч.
Lenovo готовит к выпуску портативные игровые приставки Legion Go 2 и Legion Go Lite 14 ч.