MWC 2018
2018
Computex
IFA 2018
Разработчики агентов искусственного интеллекта начали переводить клиентов с фиксированных тарифов на оплату по объёму потребляемых токенов, в результате чего цены на эти продукты резко выросли. Вскоре ИИ-помощники могут оказаться дороже состоящих в штате компаний программистов, пишет The Register со ссылкой на исследование Gartner.
Источник изображения: Arif Riyanto / unsplash.com
Компании, которые занимаются разработкой ПО, столкнулись с резким ростом затрат, указывают аналитики Gartner: если раньше помогающие программистам ИИ-агенты обходились от $20 до $100 в месяц на рабочее место, то теперь цены выросли до $2000–5000, а в некоторых случаях и до $20 000 — тоже в месяц за рабочее место. При этом разработчики ПО не получают достаточно информации о том, как рассчитываются и выставляются счета за потребление токенов, что затрудняет программирование и контроль затрат.
Создатели ИИ-сервисов не предоставляют встроенных функций, позволяющих разработчикам оптимизировать затраты на ИИ-агентов — в результате расходы увеличиваются бесконтрольно. Более того, указывают аналитики, создатели систем ИИ переходят к концепции «максимизации токенов», исходя из тезиса, что это даст более качественный результат в работе, хотя прямой связи между объёмом потребления вычислительных ресурсов и повышением качества работы установить не удалось.
Для решения проблемы аналитики Gartner рекомендуют оптимизировать потребление токенов: повышать качество входного контекста, который подаётся на модели ИИ, а также применять маршрутизацию моделей, отправляя повседневные задачи более простым и используя передовые только для самых сложных задач. Другими словами, если между объёмом потребления вычислительных ресурсов и качеством результата работы прямой связи нет, то между оптимизацией потребления и качеством результатов она есть.
В отсутствие штатных средств оптимизации некоторые компании стали тратить больше средств на ИИ, чем зарабатывать, и если так пойдёт дальше, то уже к 2028 году затраты на используемых в написании кода ИИ-агентов превысят уровень зарплаты программистов. Учитывая, что стоимость работы ИИ-агентов одинакова во всех регионах, за те же деньги в Индии можно будет нанять инженера с опытом работы от четырёх до шести лет, делают неутешительный вывод аналитики Gartner.
Источник:
