Сегодня 17 октября 2025
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

Microsoft выпустила пару открытых эффективных ИИ-моделей Phi-4 — одну дообучили по новой методике

Microsoft расширила линейку собственных больших языковых моделей искусственного интеллекта Phi-4 двумя новыми проектами с относительно скромными системными требованиями. Одна из них является мультимодальной, то есть работает с несколькими форматами данных.

 Источник изображений: microsoft.com

Источник изображений: microsoft.com

Модель Microsoft Phi-4-mini является исключительно текстовой, а Phi-4-multimodal — её улучшенная версия, способная обрабатывать также запросы в визуальном и звуковом форматах. Обе модели, утверждает разработчик, в значительной мере превосходят альтернативы сопоставимых размеров при выполнении определённых задач.

Microsoft Phi-4-mini имеет 3,8 млрд параметров, то есть она достаточно компактна для запуска на мобильных устройствах. В основу модели легла особая версия архитектуры «Трансформер» (Transformer). В стандартном варианте модели-трансформеры, чтобы понять значение каждого слова, анализируют текст до и после него; при разработке Phi-4-mini в Microsoft использовали версию Decoder-Only Transformer, которая предполагает анализ только предшествующего слову текста, что снижает нагрузку на вычислительные ресурсы и повышает скорость обработки данных.

Для дополнительной оптимизации использована технология Grouped Query Attention — этот механизм помогает модели определять, какие фрагменты данных наиболее релевантны при обработке текущей задачи. Phi-4-mini может генерировать текст, переводить документы и управлять внешними приложениями; модель, по словам разработчиков, преуспела в решении математических задач и написании компьютерного кода, даже когда требуются «сложные рассуждения». Точность ответов Phi-4-mini, по оценкам самой Microsoft, «значительно» превосходит результаты, которые дают несколько других моделей аналогичного размера.

Phi-4-multimodal — это расширенная версия Phi-4-mini с 5,6 млрд параметров; в качестве запросов она воспринимает не только текст, но также изображения, аудио и видео. Для дообучения модели в Microsoft использовали новый метод Mixture of LoRAs. Обычно адаптация ИИ к новой задаче требует изменения его весов — параметров конфигурации, которые определяют, как он обрабатывает данные. Чтобы облегчить эту задачу, используется метод LoRA (Low-Rank Adaptation) — для выполнения незнакомой задачи модели добавляется небольшое количество новых весов, оптимизированных для этой задачи. Метод Mixture of LoRAs адаптирует этот механизм к мультимодальной обработке данных: при разработке Phi-4-multimodal исходную Phi-4-mini дополнили весами, оптимизированными для работы с аудио и видео. В результате, рассказали в Microsoft, удалось смягчить некоторые компромиссы, связанные в прочими подходами к построению мультимодальных моделей.

В тестах, связанных с обработкой визуальных данных, Phi-4-multimodal набрала 72 балла, незначительно уступив ведущим моделям от OpenAI и Google. В одновременной обработке видео и звука она «с большим отрывом» обошла Google Gemini-2.0 Flash, а также открытую InternOmni. Phi-4-mini и Phi-4-multimodal доступны на платформе Hugging Face по лицензии MIT, которая допускает их коммерческое использование.

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
ИИ Meta будет предлагать пользователям отредактировать и опубликовать фото из их галереи 28 мин.
Новая статья: Vampire: The Masquerade — Bloodlines 2 — резус разочаровательный. Рецензия 31 мин.
«Невероятно исторический момент»: в Football Manager 26 впервые для серии появится Чемпионат мира по футболу и другие турниры ФИФА 2 ч.
Судебные документы Sony и Tencent раскрыли, когда выйдет фильм по Horizon Zero Dawn 4 ч.
Apple обвинила Epic Games в новой попытке отвертеться от уплаты комиссий App Store 4 ч.
Фэнтезийный боевик Absolum приглянулся не только критикам, но и игрокам — 200 тысяч проданных копий и 91 % в Steam 5 ч.
«Выбор сделали за меня»: бывший руководитель франшизы Assassin’s Creed объяснил, почему покинул Ubisoft 6 ч.
Хакеры слили данные сотен сотрудников ФБР, Минюста и Министерства внутренней безопасности США 6 ч.
Родители смогут ограничивать общение своих детей с ИИ-персонажами в Instagram 6 ч.
ИИ-модели и сервисы основного конкурента OpenAI стали доступны в Microsoft Office, Teams, Outlook и OneDrive 7 ч.
Релиз Kaspersky NGFW 1.1: улучшенная отказоустойчивость, антивирусная проверка архивов и новые аппаратные платформы 54 мин.
Atari представила ретро-консоль Intellivision Spirit c 45 встроенными играми с «возможностью расширения» 2 ч.
Huawei представила смартфон Nova 14 Lite на устаревшем чипе Kirin 8000 и HarmonyOS 5.1 3 ч.
Игровой ноутбук Redmagic Titan 16 Pro 2026 за $4209 получил чип Core Ultra 9 275HX и графику GeForce RTX 5090 3 ч.
Китайцы создали «полароид» для астрономии — он делает мгновенные снимки Вселенной с рекордной точностью 3 ч.
HTC показала доступный геймерский смартфон Wildfire и не только 3 ч.
Представлены первые в мире смартфоны с активным жидкостным кулером и не только — геймерские Redmagic 11 Pro и Pro+ 5 ч.
Poolside и CoreWeave построят в Техасе 2-ГВт кампус ИИ ЦОД, работающий на газе из Пермского бассейна 7 ч.
Apple сама решила обделить зарядными устройствами MacBook Pro в Европе — власти и законы ЕС ни при чём 8 ч.
Meta построит ещё один гигаваттный ИИ ЦОД, на этот раз в Техасе 8 ч.