MWC 2018
2018
Computex
IFA 2018
Одним из основных элементов взаимодействия моделей искусственного интеллекта с внешними сервисами является протокол MCP (Model Context Protocol). На следующей неделе он получит значительное обновление, которое может оказаться незаметным для конечных пользователей, но повлияет на развитие экосистемы.
Источник изображения: and machines / unsplash.com
В обновлённой версии MCP изменится механизм обработки идентификаторов сессий — токенов, которые серверы используют, чтобы запоминать сеансы взаимодействия с ИИ. Сейчас при первом подключении ИИ к серверу модель представляется, сообщает свою версию и возможности, сервер присылает список собственных возможностей в ответ и выдаёт идентификатор сессии. Клиент (ИИ) отправляет этот идентификатор при каждом запросе, чтобы сервер мог продолжить взаимодействие. Иногда этот идентификатор истекает — в этом случае клиент запрашивает новый и продолжает работу.
На практике крупные службы управляют подключениями миллионов пользователей, и координирует эту работу балансировщик нагрузки — он направляет запросы на те серверы в кластере, которые свободны, иногда даже в другом регионе. Применительно к MCP каждая из этих машин должна знать идентификатор сессии, который выдала другая. Это возможно, но очень непросто и мешает работе балансировщика нагрузки. Другими словами, клиент помнит только один сервер, но трафик распределяется между десятками машин, которые по умолчанию не взаимодействуют друг с другом, и современным серверам MCP приходится выполнять дополнительную работу, чтобы отслеживать, кто есть кто. Из-за этой особенности компании пока не так часто выпускают крупномасштабные интеграции MCP от собственных разработчиков, несмотря на ажиотаж вокруг ИИ-агентов в этом году.
В новой версии протокола будет реализован подход к идентификаторам сессий на стороне сервера «без передачи состояния» (stateless) — аналогичным образом сейчас работает большинство обычных сайтов. Это поможет упростить обслуживание системы и, теоретически, снизить затраты на её эксплуатацию в больших масштабах. Инфраструктура для ИИ развивается не так быстро, как выходят новые модели, но всё-таки продвигается вперёд.
Источник:
