Сегодня 24 февраля 2024
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

«Сбер» обновил GigaChat — ИИ-чат-бот получил одну из крупнейших нейросетей на русском языке

В рамках международной конференции по искусственному интеллекту AI Journey разработчики «Сбера» представили новую версию чат-бота GigaChat, основой которого стала одна из самых продвинутых больших языковых моделей (LLM) для русского языка с 29 млрд параметров. В скором времени доступ к API новой версии алгоритма получат бизнес-клиенты «Сбера», что позволит им создавать собственные решения на базе GigaChat, а также участники академического сообщества для проведения исследований.

 Источник изображения: sber.ru

Источник изображения: sber.ru

Использование новой LLM позволяет чат-боту лучше следовать инструкциям и выполнять сложные задания. Существенно повысилась качество суммаризации, рерайтинга, редактирования текстов и ответов на различные вопросы. Разработчики сравнили ответы новой и предыдущей моделей и зафиксировали общее повышение качества на 23 %. В дополнение к этому с фактологией новая модель справляется на 25 % лучше предшественницы.

Для повышения качества работы LLM было проведено множество экспериментов по наращиванию эффективности её обучения. К примеру, использовался фреймворк для обучения больших языковых моделей с возможностью шардирования весов нейросети по видеокартам, за счёт чего удалось сократить потребление памяти на них. Результат внутренней оценки в бенчмарке Massive Multitask Language Understanding показал, что версия GigaChat с 29 млрд параметров превосходит самый популярный открытый аналог LLaMA 2 34B.

«Обучение моделей, лежащих в основе GigaChat, — это масштабный и сложный вычислительный проект, прежде мы не делали ничего подобного. Суммарное количество вычислительных операций почти в 6 раз превысило количество операций при обучении модели ruGPT-3 с 13 млрд параметров в 2021 году. Также специально для GigaChat мы собрали и развиваем уникальный датасет, над которым работают сотни сотрудников «Сбера», помогая развивать и улучшать качество ответов в самых разных доменах. Благодаря этим усилиям пользователи с каждым новым релизом GigaChat получают максимум от сервиса для решения своих задач», — рассказал Андрей Белевцев, старший вице-президент, руководитель блока «Технологии» Сбербанка.

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Вечерний 3DNews
Каждый будний вечер мы рассылаем сводку новостей без белиберды и рекламы. Две минуты на чтение — и вы в курсе главных событий.
Материалы по теме
window-new
Soft
Hard
Тренды 🔥
«Такая же грандиозная, увлекательная и красивая, какой вы её помните»: скриншоты, подробности и сроки выхода Age of Mythology: Retold 2 ч.
Новая статья: Banishers: Ghosts of New Eden — изгнатели дьявола. Рецензия 2 ч.
Хидетака Миядзаки встал на защиту Dark Souls 2 — самой нелюбимой фанатами игры серии 4 ч.
«Этот день настал»: культовый российский квест Sublustrum получит трёхмерный ремейк 4 ч.
Паркурный экшен Vasya Run: Ghetto Gopnik расскажет об уличном художнике посреди инопланетного вторжения — первый трейлер и подробности 6 ч.
Warner Bros. признала релиз Suicide Squad: Kill the Justice League провалом 7 ч.
Threads тестирует возможность сохранять черновики и делать фото в приложении 8 ч.
Вирус-вымогатель LockBit стали распространять через уязвимость в ПО для удалённого доступа ConnectWise 8 ч.
Как пополнять кошелёк Steam в России после краха QIWI — семь рабочих способов 9 ч.
Число высококритичных атак на российские компании выросло более чем в три раза 12 ч.
Под новые санкции США попали крупные российские операторы ЦОД, а также разработчики Astra Linux и «РЕД ОС» 17 мин.
Colorfire выпустила яркий ноутбук Meow R15 на базе Ryzen 7 8845HS и GeForce RTX 4070 5 ч.
NVIDIA теперь стоит дороже $2 трлн — она подорожала вдвое менее чем за год 5 ч.
Senao Networks выпустила 25GbE-адаптеры SX904 SmartNIC на базе Xeon D 7 ч.
Мировой рынок SSD сокращается в штуках, но растёт в плане ёмкости, а NVMe-накопители показали резкий рост 7 ч.
Microsoft переманила ответственного за аппаратные решения облака AWS 7 ч.
Австралийский суперкомпьютерный центр внедрит суперчипы NVIDIA Grace Hopper для квантовых исследований 7 ч.
Meta ищет в Индии и США специалистов для разработки ИИ-ускорителей и SoC для дата-центров 7 ч.
ИИ-ускорители нового поколения Blackwell будут в дефиците, предупредила NVIDIA 7 ч.
ЕС запретил поставлять в Россию процессоры, трансформаторы, смартфоны и множество другой электроники 8 ч.