Сегодня 24 января 2025
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

Google представила компактную языковую модель Gemma 2 2B, которая превосходит GPT 3.5 Turbo

Компания Google представила Gemma 2 2B — компактную, но мощную языковую модель искусственного интеллекта (LLM), которая может составить конкуренцию лидерам отрасли, несмотря на свой значительно меньший размер. Новая языковая модель, содержащая всего 2,6 миллиарда параметров, демонстрирует производительность не хуже гораздо более крупных аналогов, включая OpenAI GPT-3.5 и Mistral AI Mixtral 8x7B.

 Источник изображений: Google

Источник изображений: Google

В тесте LMSYS Chatbot Arena, популярной онлайн-платформы для сравнительного тестирования и оценки качества моделей искусственного интеллекта, Gemma 2 2B набрала 1130 баллов. Этот результат немного опережает результаты GPT-3.5-Turbo-0613 (1117 баллов) и Mixtral-8x7B (1114 баллов) — моделей, обладающих в десять раз большим количеством параметров.

Google сообщает, что Gemma 2 2B также набрала 56,1 балла в тесте MMLU (Massive Multitask Language Understanding) и 36,6 балла в тесте MBPP (Mostly Basic Python Programming), что является значительным улучшением по сравнению с предыдущей версией.

Gemma 2 2B бросает вызов общепринятому мнению, что более крупные языковые модели изначально работают лучше компактных. Производительность Gemma 2 2B показывает, что сложные методы обучения, эффективность архитектуры и высококачественные наборы данных могут компенсировать недостаток в числе параметров. Разработка Gemma 2 2B также подчеркивает растущую важность методов сжатия и дистилляции моделей ИИ. Возможность эффективно компилировать информацию из более крупных моделей в более мелкие открывает возможности к созданию более доступных инструментов ИИ, при этом не жертвуя их производительностью.

Google обучила Gemma 2 2B на огромном наборе данных из 2 триллионов токенов, используя системы на базе своих фирменных ИИ-ускорителей TPU v5e. Поддержка нескольких языков расширяют её потенциал для применения в глобальных приложениях. Модель Gemma 2 2B имеет открытый исходный код. Исследователи и разработчики могут получить доступ к модели через платформу Hugging Face. Она также поддерживает различные фреймворки, включая PyTorch и TensorFlow.

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Вечерний 3DNews
Каждый будний вечер мы рассылаем сводку новостей без белиберды и рекламы. Две минуты на чтение — и вы в курсе главных событий.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
Epic Games запускает программу раздачи игр и поможет компенсировать сборы Apple разработчикам iOS 41 мин.
Google запускает защиту аккаунтов через сканер отпечатков на Android 3 ч.
«Хлебные крошки» в адресе сайтов исчезнут из результатов мобильного поиска Google 4 ч.
OpenAI выпустила ИИ-агента Operator, который будет сидеть в интернете за пользователя 9 ч.
Bethesda подтвердила дату выхода Doom: The Dark Ages — геймплей и системные требования «самой амбициозной игры» id Software 11 ч.
Альтман пообещал доступ к думающей ИИ-модели o3-mini в бесплатной версии ChatGPT 11 ч.
Koei Tecmo анонсировала Ninja Gaiden 4 от PlatinumGames и выпустила ремейк Ninja Gaiden 2 на Unreal Engine 5 12 ч.
Ubisoft показала сюжетный трейлер Assassin's Creed Shadows и подтвердила дополнение Claws of Awaji 12 ч.
Стартап Render, готовый бросить вызов традиционным облакам, привлёк $80 млн на развитие своей платформы для разработчиков 13 ч.
Over the Hill отправит в золотой век бездорожья исследовать дикую природу — трейлер и детали новой игры от создателей Art of Rally 13 ч.
Dasung выпустила компактный 10,3-дюймовый монитор с матрицей на электронных чернилах и частотой обновления 60 Гц 2 ч.
Новый указ Трампа предусматривает создание национального криптовалютного резерва США 2 ч.
Nvidia убрала мониторинг Hot Spot у видеокарт серии GeForce RTX 50 3 ч.
Fitbit заплатит штраф $12 млн за ожоги от смарт-часов Ionic у 78 человек 3 ч.
Крупный американский ретейлер сообщил дату старта продаж видеокарт AMD серии Radeon RX 9070 4 ч.
Microsoft готовит компактные версии Surface Pro и Surface Laptop на чипе Snapdragon X 4 ч.
В IV квартале 2024 года SK hynix получила самую большую операционную прибыль в Южной Корее, опередив Samsung 7 ч.
Новая статья: Обзор игрового QD-OLED 4K-монитора Digma Pro Vision L: взгляд свысока 9 ч.
Galaxy S25 получили спутниковую связь Snapdragon Satellite, но Samsung забыла об этом рассказать 10 ч.
SoftBank и OpenAI намерены выделить по $19 млрд на ИИ-проект Stargate, но Маск уверен что на это нет денег 11 ч.