Работа с искусственным интеллектом стремительно дорожает, вот и Microsoft решила ограничить собственных инженеров в использовании ИИ. Компания открыла для внутреннего использования одну из доступных моделей OpenAI GPT-5.6, чтобы «получить отдачу от наших инвестиций в токены», но вскоре для сотрудников будет установлен «целевой бюджет ИИ-токенов», который они смогут отслеживать индивидуально.
Источник изображения: BoliviaInteligente / unsplash.com
Потребление токенов пропорционально объёмам запросов к ИИ и ответов моделей. Раньше работников технологических компаний поощряли пользоваться ИИ как можно активнее, но перевод работы на оплату по объёмам потребления привёл к тому, что счета за это резко выросли.
«Хочу, чтобы все мы сосредоточились на максимизации результатов, которые принесут нашим клиентам и бизнесу пользу. Поэтому мы обновим наши внутренние рекомендации и введём управление расходами токенов с той же дисциплиной, которую применяем ко всем другим критически важным ресурсам», — заявил исполнительный вице-президент Microsoft Джей Парих (Jay Parikh) во внутреннем электронном письме. В документе содержится ссылка на внутренние рекомендации по работе с Copilot, согласно которым в Microsoft появится «целевой бюджет токенов ИИ», но подробности не приводятся.
В конце мая Microsoft перевела сервис GitHub Copilot на оплату за токены, и некоторые пользователи быстро исчерпали свои лимиты. Компания также пытается сократить расходы на ИИ, подключая приложения Microsoft 365 к собственным моделям MAI вместо более дорогих в обращении Anthropic и OpenAI. Контроль за расходами своих сотрудников на ИИ-токены ужесточили Amazon, Adobe, Atlassian и Citi.