MWC 2018
2018
Computex
IFA 2018
Разработчики ИИ призывают активнее внедрять новые технологии в бизнес-процессы, но проблема в том, что бизнес нередко не может предугадать, сколько именно денег будет потрачено на решение той или иной задачи силами ИИ. В этом уравнении слишком много переменных, чтобы корпоративные пользователи могли достоверно планировать свой бюджет.
Источник изображения: Unsplash, Arlington Research
Как уже не раз отмечалось, призывы руководства организаций к максимальному использованию ИИ сотрудниками в определённый момент привели к шокирующему отрезвлению. Выяснилось, что счета за использование ИИ достигают астрономических сумм, а подтвердить наличие экономического эффекта от этого нововведения порой крайне сложно. Опросы показывают, что только 11 % из 400 бизнес-структур по состоянию на апрель и май текущего года могли уложиться в пределы запланированных бюджетов при оплате использования ИИ-моделей сотрудниками, причём эта выборка закладывала погрешность в 10 % превышения первоначальной суммы.
В допуск от 11 до 25 % превышения первоначального бюджета на ИИ уложились 39 % респондентов, ещё 35 % попали в более широкий диапазон превышения от 26 до 50 %, а вот «промахнулись» на 50 % только 13 % опрошенных. Правда, 2 % респондентов при этом отметили, что вообще не прогнозировали расходы данного вида.
Практическое исследование группы американских учёных и представителей Microsoft Research, которое охватило 6800 различных заданий, выявило высокую степень непредсказуемости результатов работы с ИИ-моделями с точки зрения расходования токенов, за которые обычно надо платить провайдерам. Что характерно, более продвинутые модели, которые обходятся пользователям дороже в пересчёте на каждый токен, по факту могли экономить средства пользователя лучше, чем более доступные ИИ-модели с меньшей производительностью и умеренной удельной стоимостью в пересчёте на токен.
Если более «дешёвая» ИИ-модель применяется для задач, под которые она не оптимизирована, расходы могут превысить вариант обращения к более дорогой и эффективной модели. Исследование показало, что такой перекос наблюдается в 32 % случаев. Соответственно, расценки на использование ИИ-моделей сами по себе не могут служить адекватными входными данными для расчёта общих расходов на решение задачи.
На страницах The Wall Street Journal приводится пример с обработкой одного и того же запроса с помощью двух различных моделей Google: более «тяжеловесной» Gemini 3.1 Pro и более доступной и скоростной Gemini 3 Flash. Если первой удалось обработать запрос за 85 шагов, то вторая потратила на это почти 1000 шагов и после этого всё равно не справилась. Затраты в первом случае ограничились $1, а во втором выросли до $14 и фактически не обеспечили желаемого результата.
Даже одна и та же модель расходует различное количество токенов на решение задачи в рамках нескольких последовательных подходов. Соответственно, при одних и тех же условиях расходы на решение задачи будут разными, и не факт, что номинально более дешёвая в использовании ИИ-модель по итогу обеспечит самые низкие материальные затраты. Впрочем, конкретный разброс результатов сильно зависит от версий используемых в таких исследованиях моделей, поскольку они довольно быстро совершенствуются.
Представители Google пояснили, что подобная вариативность свойственна системам ИИ, и общие расходы на их применение зависят от множества разных факторов. Предсказать точную сумму затрат в столь новой сфере порой весьма затруднительно. Google пытается сгладить колебания расходов, устанавливая ограничители и предлагая различные тарифные варианты. Сотрудников компаний для лучшей предсказуемости расходов на использование ИИ тоже надо обучать наиболее эффективным приёмам работы с такими системами.
Источник:
