Сегодня 01 мая 2025
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

Microsoft представила Phi-2 — революционную малую ИИ-модель с большим потенциалом

Microsoft представила передовую ИИ-модель Phi-2, насчитывающую 2,7 млрд параметров. Модель продемонстрировала превосходные результаты в широком спектре тестов, включая понимание языка, решение математических задач, программирование и обработку информации. Главной особенностью Phi-2 является её способность конкурировать, а зачастую и превосходить ИИ-модели, в 25 раз превышающие её по размеру. Новинка уже доступна через Microsoft Azure AI Studio для исследователей и разработчиков, желающих интегрировать передовой ИИ в свои приложения.

 Источник изображений: Microsoft

Источник изображений: Microsoft

Генеральный директор Microsoft Сатья Наделла (Satya Nadella), представил модель Phi-2 на мероприятии Ignite. Отличительной особенностью этой модели является её обучение на данных, соответствующих качеству учебного уровня. Это означает, что данные для обучения модели были тщательно отобраны и структурированы, что способствовало точности и эффективности обучения. Такой подход позволяет Phi-2 более эффективно переносить знания и толкования, полученные из других моделей, укрепляя её способности в областях понимания языка, логического мышления и обработки информации.

 Средняя производительность по сгруппированным бенчмаркам по сравнению с популярными открытыми SLMs

Средняя производительность по сгруппированным бенчмаркам по сравнению с популярными открытыми SLMs

Phi-2 меняет устоявшиеся представления о связи между размером и мощностью языковых моделей. Модель сравнима с большими ИИ-моделями, такими как 7B Mistral компании Mistral AI, 13B Llama 2 компании Meta и даже 70B Llama-2. Особое внимание заслуживает способность Phi-2 превосходить даже Gemini Nano компании Google, самую эффективную модель в серии Gemini, предназначенную для работы на мобильных устройствах. Это подчёркивает потенциал Phi-2 в области мобильных технологий, предоставляя функции автоматического резюмирования текстов, продвинутой корректуры и исправления грамматики, а также контекстуальных интеллектуальных ответов.

 Сравнение между Phi-2 и моделью Gemini Nano 2 на основе заявленных бенчмарков Gemini

Сравнение между Phi-2 и моделью Gemini Nano 2 на основе заявленных бенчмарков Gemini

Специалисты Microsoft подчёркивают, что высокая производительность модели Phi-2 достигнута без применения методов обучения с подкреплением (reinforcement learning), основанных на человеческой обратной связи, или методов инструкционной настройки (instructional tuning). Это позволяет модели эффективно минимизировать проявления предвзятости и снижать риск токсичных выходных данных, что делает Phi-2 одной из наиболее безопасных и этичных моделей в сфере ИИ.

 Безопасность оценена по 13 демографическим группам на основе ToxiGen. Подмножество из 6541 предложений выбрано и оценено в диапазоне от 0 до 1 на основе масштабированной перплексии и токсичности предложений. Более высокий балл указывает на меньшую вероятность генерации ИИ-моделью токсичных предложений по сравнению с безобидными

Безопасность оценена по 13 демографическим группам на основе ToxiGen. Подмножество из 6541 предложений выбрано и оценено в диапазоне от 0 до 1 на основе масштабированной перплексии и токсичности предложений. Более высокий балл указывает на меньшую вероятность генерации ИИ-моделью токсичных предложений по сравнению с безобидными

Phi-2 является частью серии малых языковых моделей (SLMs) компании Microsoft. Первая модель этой серии, Phi-1 с 1,3 млрд параметров, вышла ранее в этом году и была нацелена на задачи программирования на языке Python. В сентябре была представлена Phi-1.5 с аналогичным количеством параметров, но обученная на новых данных, включая синтетические тексты, созданные с помощью программирования на естественном языке.

 Сравнение между моделями Phi-2 и Phi-1.5. Все задачи оцениваются в режиме 0-shot, за исключением BBH и MMLU, для которых используется 3-shot CoT и 5-shot соответственно

Сравнение между моделями Phi-2 и Phi-1.5. Все задачи оцениваются в режиме 0-shot, за исключением BBH и MMLU, для которых используется 3-shot CoT и 5-shot соответственно

Phi-2 открывает новую главу в машинном обучении, где качество и эффективность обучения становятся ключевыми факторами. Эта ИИ-модель не только свидетельствует о значительных достижениях Microsoft в данной сфере, но и предоставляет новые возможности для разработчиков и исследователей по всему миру, открывая двери к более умным и безопасным технологиям будущего.

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
Microsoft готова судиться с правительством США, если оно попытается лишить Европу продуктов компании 3 ч.
Google подтвердила, что близка к внедрению ИИ-модели Gemini в iPhone 4 ч.
YouTube начал размывать превью на видео для взрослых — пока в тестовом режиме 5 ч.
Бесплатный аддон Throes of the Watchmaker отправит игроков Sea of Stars спасать механический мир от проклятого карнавала — дата выхода и новый трейлер 5 ч.
Nvidia выпустила драйвер Game Ready 576.28 WHQL с исправлением ошибок прошлого и повышением стабильности в играх 6 ч.
ИИ с помощью мощных GPU научился взламывать пароли быстрее, чем их успевают менять 6 ч.
Дело техники: «Википедия» поручит генеративному ИИ рутину, чтобы не испортить труд людей 6 ч.
Безжалостный российский боевик Kiborg вышел на ПК и консолях — первые игроки в восторге 7 ч.
Спустя 11 лет легендарная Flappy Bird вернулась на Android в качестве эксклюзива Epic Games Store 9 ч.
Nvidia придумала, как с помощью ИИ генерировать точные изображения без текстовых запросов — подойдёт он не всем 10 ч.
Новая статья: Обзор видеокарты Palit GeForce RTX 5080 GamingPro OC 3 ч.
Google готовит мегаваттные стойки с питанием 400 В и СЖО для ИИ-платформ будущего 4 ч.
«Байкал электроникс» поставила в Россию 85 тыс. процессоров Baikal 5 ч.
Новая статья: Система жидкостного охлаждения DeepCool LE360 V2: удешевление без потерь? 5 ч.
Для термоядерного реактора ITER изготовлена крупнейшая и мощнейшая магнитная система в мире — она могла бы поднять авианосец 6 ч.
Western Digital отчиталась о росте продаж HDD, в том числе сверхъёмких и дорогих — всё благодаря ИИ и облакам 10 ч.
Российские вендоры предложили полностью запретить продажу иностранной электроники на госзакупках 11 ч.
Meta разрешила своим умным очкам постоянно «смотреть» и «слушать» — отказаться от этого непросто 11 ч.
«Выдающийся и чрезвычайно прибыльный год»: Logitech отчиталась о росте почти по всем направлениям 11 ч.
Supermicro недосчиталась порядка $1 млрд по итогам квартала — акции рухнули на 19 % 12 ч.