Эволюция технологий искусственного интеллекта в настоящий момент привела к тому, что ИИ-агенты способны заменить сразу нескольких человек, выполняющих разнообразную работу. Рост их концентрации привёл к тому, что ИИ-агенты стали потреблять в пять раз больше токенов, чем человек. С учётом ценовой политики китайских провайдеров ИИ-услуг, это может предоставить им рыночное преимущество.
Источник изображения: Unsplash, Igor Omilaev
ИИ-агенты работают независимо, выполняя последовательность сложных операций в автономном режиме. Они обращаются к различным сервисам и базам данных, а затем проверяют результаты собственной работы. Все эти операции требуют использования токенов — условных единиц обработки данных. По данным агрегатора OpenRouter, агентские запросы генерируют до 15 раз больше токенов, чем стандартные запросы, создаваемые человеком. Кроме того, к началу августа потребление токенов на этой платформе выросло в 14 раз по сравнению с ситуацией шестимесячной давности.
Агентская активность впервые превысила человеческую в феврале, к августу она уже превышала её более чем в пять раз. Агентским запросам присуща высокая повторяемость данных, если запросы берутся из кешированной информации, но такие задания требуют меньших вычислительных ресурсов, а потому провайдеры взимают за них меньшую плату. Тем не менее, темпы роста нагрузок настолько велики, что материальные расходы на поддержание экосистемы стремительно растут. По оценкам экспертов TH Capital, использование токенов ИИ-моделями в дальнейшем будет расти экспоненциально.
Если в начале 2024 года в Китае ежедневно использовалось 100 млрд токенов, то к июню текущего года объёмы выросли в пять тысяч раз до 500 трлн. Клиенты в этой ситуации стараются распределять менее ответственную нагрузку на модели с более низкими затратами, поскольку поручать всю работу передовым системам слишком дорого. У китайских ИИ-моделей, которые обходятся пользователям дешевле, в этом смысле появляются хорошие шансы на увеличение клиентской базы и выручки.
Для сравнения, китайская DeepSeek V4-Flash оценивает миллион стандартных входных токенов в $0,14, а миллион выходных — в $0,28. Американская OpenAI свою GPT-5.6 Sol предлагает по цене $4 за миллион входных токенов и $20 за миллион выходных. У Anthropic Fable 5.1 стоимость токенов ещё выше: $10 и $50 соответственно. Статистика платформы OpenRouter уже говорит, что решения DeepSeek являются наиболее популярными с долей запросов 22,7 %, тогда как американские Google и OpenAI довольствуются 20,4 % и 19,6 % соответственно.