Новости Software

Живые субтитры и транскрипция в Microsoft Teams стали лучше благодаря Microsoft Azure и ИИ-технологиям NVIDIA

Платформа Microsoft Teams помогает студентам и специалистам по всему миру проводить онлайн-встречи с использованием созданных с помощью искусственного интеллекта живых субтитров и транскрипции в реальном времени. Эти функции получили развитие благодаря вычислительным технологиям NVIDIA для обучения ИИ и NVIDIA Triton Inference Server для вывода моделей распознавания речи.

 NVIDIA

NVIDIA

Teams позволяют общаться и сотрудничать по всему миру почти 250 млн активным пользователям в месяц. Разговоры в Teams получают субтитры и транскрибируются на 28 языках с помощью Microsoft Azure Cognitive Services. Этот процесс вскоре будет запускать критически важный инференс нейронной сети с ресурсоёмкими вычислениями на графических процессорах NVIDIA.

Функция живых субтитров помогает участникам следить за беседой в режиме реального времени, а функции транскрипции помогают участникам позже восстановить перипетии обсуждения или наверстать упущенное, если они отсутствовали. Субтитры в реальном времени могут быть особенно полезны для глухих или слабослышащих посетителей, а также для тех, кто не является носителем языка, используемого на собрании.

Teams использует Cognitive Services для оптимизации моделей распознавания речи с помощью программного обеспечения с открытым исходным кодом NVIDIA Triton для инференса.

Triton позволяет Cognitive Services поддерживать высокотехнологичные языковые модели, обеспечивая высокоточные персонализированные результаты преобразования речи в текст в режиме реального времени с очень низкой задержкой. Внедрение Triton гарантирует, что графические процессоры NVIDIA, на которых выполняются эти модели преобразования речи в текст, используются в полной мере, снижая стоимость и обеспечивая более высокую пропускную способность с использованием меньшего количества вычислительных ресурсов.

Некоторые из основных возможностей NVIDIA Triton, которые позволяют масштабировать функции субтитров и транскрипции Microsoft Teams для большего количества собраний и пользователей, включают:

  • Потоковый вывод: NVIDIA и Azure Cognitive Services совместно занимались тем, чтобы настроить приложение преобразования речи в текст с помощью новой функции потокового вывода с отслеживанием состояния, которая может отслеживать предыдущий речевой контекст для повышения точности субтитров с учетом задержки.
  • Динамическое пакетирование: размер пакета — это количество входных выборок, которые нейронная сеть обрабатывает одновременно. Благодаря динамическому пакетированию в Triton отдельные запросы вывода автоматически объединяются в пакет, что позволяет лучше использовать ресурсы графического процессора, не влияя на задержку модели.
  • Параллельное выполнение модели. Для создания подписей и транскрипции в реальном времени требуется одновременный запуск нескольких моделей глубокого обучения. Triton позволяет разработчикам делать это одновременно на одном графическом процессоре, даже с моделями, использующими разные платформы глубокого обучения.

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме
window-new
Soft
Hard
Тренды 🔥
Южная Корея расследует деятельность магазинов приложений Apple и Google 31 мин.
Blizzard раскрыла дату снятия с продажи платных лутбоксов в Overwatch 36 мин.
Версия Persona 5 Royal для новых платформ получила первый самостоятельный трейлер 2 ч.
Google TV получит поддержку фитнес-браслетов и расширенные функции беспроводного звука 2 ч.
Google призвала Apple обеспечить поддержку стандарта обмена сообщениями RCS 2 ч.
Симулятор управления поездами Train Sim World 3 прибудет на прилавки в сентябре 3 ч.
Производитель игрового движка Unity сделает из своего подразделения в Китае отдельную компанию 3 ч.
Видео: в свежем трейлере ролевой игры Soul Hackers 2 напомнили об основных занятиях и героях 3 ч.
На открытии gamescom 2022 представят научно-фантастическую игру создателей Subnautica и не только 4 ч.
Сюжетная игра BROK the InvestiGator объединит классический квест с beat 'em up — ПК-версия выйдет уже в этом месяце 4 ч.