Сегодня 14 октября 2026
18+
MWC 2018 2018 Computex IFA 2018
реклама
Теги → оркестратор

«Яндекс» разработает оркестратор для ИИ-моделей

«Яндекс» ведёт разработку системы оркестратора моделей искусственного интеллекта, которая обеспечит умное распределение задач между нейросетями, чтобы при минимальной стоимости качество работы ИИ было максимальным, сообщили Forbes в компании. За рубежом такие решения уже существуют, и они популярны, говорят эксперты.

 Источник изображения: yandex.ru/company

Источник изображения: yandex.ru/company

Инженеры «Яндекса» подготовят единую систему, которая объединит оркестратор из собственных моделей компании и открытых нейросетей — эта система будет лежать в основе «Алисы AI», рассказал руководитель направления «Алисы» и умных устройств «Яндекса» Валерий Стромов. Первая версия оркестратора уже существует, и ей пользуются внутри «Яндекса»; в сентябре должна выйти общедоступная сборка. «Наша стратегическая задача сейчас — уйти от парадигмы одной модели к нескольким, часть из которых будут опенсорсными, создать систему умного распределения задач, чтобы максимальное качество достигалось по минимальной стоимости, и создать обвязку, harness (программную оболочку), которая даст модели „руки“ в физическом мире — чтобы „Алиса“ могла использовать разные сервисы, создавать память о пользователе или бизнесе, запускать код и т.д. Мы хотим стать пионерами этого подхода в России», — пояснил господин Стромов.

Когда число ИИ-моделей становится большим, оркестратор начинает испытывать затруднения, и качество его работы снижается. «В первой версии мы будем жить с тремя–пятью моделями-экспертами. Среди всего потока задач львиная доля — думаю, это будет всегда в районе 80–90%, — будет работать на нашей модели, а узкоспециализированные вещи будут отправляться в опенсорсные модели в нашей обвязке. Это фактически позволит нам переигрывать таких игроков, как Google, у которых пока одна модель, и им нужно делать так, чтобы она была умна везде — а это заметно больше ресурсов», — добавил он. «Яндекс» разрабатывает систему не из желания следовать трендам, а в связи с инженерной необходимостью: инференс, то есть запуск уже обученных моделей, обходится недёшево, поэтому «хочется дать пользователю и бизнесу максимум пользы за минимум ресурсов». В минувшем году «Яндекс» вложил в «Алису AI» 55 млрд рублей, и в этом году показатель останется тем же, но на фоне мировых гигантов это очень маленькая сумма, признал Валерий Стромов.

Потребительские качества ИИ часто связаны не с миллиардами параметров у моделей, а с их практическим применением, доступностью интерфейса — маршрутизация помогает обходить ограничения и обеспечивать высокую скорость работы моделей, говорят опрошенные Forbes эксперты. При наличии оркестратора потребность обращаться к самым мощным нейросетям возникает не всегда, а модели становятся взаимозаменяемым ресурсом. Наконец, решается задача о хранении контекста — хранить его в моделях иногда слишком расточительно.


window-new
Soft
Hard
Тренды 🔥
Вайб-кодинг добрался до Android: Google разрешила запускать собственные приложения без публикации в «Play Маркете» 4 мин.
До $20 000 за один баг: Google расширила программу поиска уязвимостей Chrome 2 ч.
God of War Laufey пошла по пути GTA VI — Sony анонсировала коллекционное издание игры без самой игры 5 ч.
Выяснилось, как с аппаратных криптокошельков Ledger увели более $93 млн 5 ч.
Создатель Dead Space рассказал, почему провалилась The Callisto Protocol и какой могла быть The Callisto Protocol 2 5 ч.
«Яндекс» заявил о восстановлении функций умного дома с «Алисой», а корпоративные сервисы сделал бесплатными на октябрь 7 ч.
Nvidia вдвое ускорила нейронный рендеринг DLSS 5 и снизила потребление видеопамяти на 20 % 7 ч.
Авторитетное издание рассекретило, когда GTA VI выйдет на ПК 7 ч.
Китайский ИИ-агент от Alibaba научился спорить с поддержкой, возвращать деньги и бронировать услуги 8 ч.
«Сейчас самое время»: Sony удалит GTA V из PS Plus за два дня до релиза GTA VI 8 ч.
Arm проиграла суд Qualcomm, но отделалась компенсацией всего в $2 3 мин.
Новая статья: Топологическая фотоника: вычисления на грани 24 мин.
Крупные телеком-операторы предложили малым провайдерам «отдаться» в обмен на долю выручки 2 ч.
Apple представила Home Collection — устройства умного дома, созданные с LG и Schneider 6 ч.
Марсоход NASA Perseverance побил рекорд пробега на другой планете — и останавливаться не собирается 6 ч.
Curator: количество DDoS-атак с начала года выросло на 140,7 %, а терабитными атаками уже не удивить 7 ч.
Xiaomi 18 Fold на чипе XRing O3 стал самым мощным Android-смартфоном сентября по версии AnTuTu 7 ч.
Apple представила умную колонку HomePod mini 2 с Siri AI и светомузыкой Sound Glow 7 ч.
Россияне встретили iPhone 18 Pro без ажиотажа — спрос остался на уровне прошлого года 7 ч.
Обновлённая Apple TV 4K получила встроенные микрофоны для Siri AI и пульт, который подскажет, где его искать 8 ч.