Сегодня 25 июня 2025
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

Qualcomm будет сотрудничать с Meta✴ над поддержкой языковой модели Llama 2 смартфонами и ПК без доступа к облаку

Вчера Meta совместно с Microsoft представила новое поколение большой языковой модели (LLM) — Llama 2, которая будет использоваться в генеративных ИИ-приложениях и сервисах. Теперь, как сообщает компания Qualcomm, она будет работать совместно с Meta над механизмом интеграции Llama 2 в электронику, в частности — мобильные устройства на чипсетах Qualcomm Snapdragon.

 Источник изображения: Placidplace/pixabay.com

Источник изображения: Placidplace/pixabay.com

Как заявила Qualcomm в пресс-релизе, целью сотрудничества стало обеспечение работы приложений и сервисов на базе Llama 2 на таких устройствах без необходимости подключения их к облаку — это требуется, например, при использовании других ИИ-продуктов вроде ChatGPT и Bing Chat.

Как заявили в Qualcomm, способность запускать большие языковые модели вроде Llama 2 на самом устройстве вроде смартфона, ПК или AR/VR-гарнитуры имеет ряд достоинств.

Например, это позволяет разработчикам экономить на облачных сервисах, а также обеспечивать пользователям конфиденциальный, более надёжный и персонализированный опыт, чем тот, что можно обеспечить при использовании облачного сервиса.

Qualcomm намерена обеспечить поддержку ИИ-сервисов на основе Llama 2 на устройствах, использующих чипсеты Qualcomm Snapdragon — уже в 2024 году. Правда, пока неизвестно, будет ли такая поддержка предусмотрена только в новых чипсетах или Qualcomm удастся каким-то образом организовать совместимость с уже используемыми.

В Meta заявляют, что Llama 2 тренировалась на 40 % большем объёме данных, чем Llama первого поколения. Разработчик уже анонсировал варианты сотрудничества с Microsoft — модель будут бесплатно предоставлять исследователям и коммерческими клиентами облака Azure. Кроме того, возможна загрузка и запуск LLM локально, на ПК под управлением ОС Windows.

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
Бизнес раскритиковал идею введения платного доступа к госсервисам для юрлиц 9 ч.
Объявлена дата выхода Little Nightmares 3 — новый трейлер, 11 минут геймплея и предзаказ с приятным сюрпризом 9 ч.
Российская гиперконвергентная платформа vStack HCP получила крупное обновление 12 ч.
Продажи Rematch от создателей Sifu превысили миллион копий — раскрыта статистика игроков 12 ч.
Для Warhammer 40,000: Rogue Trader вышло сюжетное дополнение Lex Imperialis и большой патч 1.4, а в работе ещё более крупное обновление 13 ч.
Anthropic выиграла суд у издателей: обучать ИИ на купленных книгах законно, на пиратских — нет 13 ч.
Xbox скоро настигнет новая волна массовых увольнений — Microsoft проводит реорганизацию 14 ч.
Путин подписал закон о создании национального мессенджера 14 ч.
Новый геймплейный трейлер раскрыл дату выхода перезапуска Painkiller — в российском Steam открыт предзаказ 15 ч.
Заявка на успех: более миллиона человек уже добавили Resident Evil Requiem в список желаемого 18 ч.
Оборот российского рынка микроэлектроники может к 2030 году превысить триллион рублей 4 ч.
Суд приговорил криптоблогера Битмаму к семи годам колонии за мошенничество 4 ч.
Apple приняла официальное участие в китайской программе субсидирования продаж потребительской электроники 4 ч.
Fujitsu считает важным появление в Японии контрактного производителя передовых чипов Rapidus 5 ч.
Intel запустила обещанную волну увольнений — первыми под сокращение попали инженеры в Калифорнии 7 ч.
Gigabyte представила три версии GeForce RTX 5050, включая низкопрофильную — все с разгоном 7 ч.
Стараниями Китая мировые поставки носимых устройств подскочили на 10,5 % в первом квартале 7 ч.
Новая статья: Разрубить EUV-узел 8 ч.
MSI представила компактную GeForce RTX 5050 Shadow 2X OC с разгоном 9 ч.
Бизнес США единодушно предупредил Трампа: пошлины на чипы в 25 % обернутся хаосом 9 ч.