MWC 2018
2018
Computex
IFA 2018
Разработчики чат-ботов начали массово применять специализированный инструмент Caveman, который заставляет искусственный интеллект генерировать максимально краткие ответы, имитирующие стиль речи «пещерного человека». Как сообщает 404 Media, использование Caveman стало реакцией бизнеса на стремительный рост расходов на токены и необходимость жёсткого контроля бюджетов.
Источник изображения: AI
Инструмент был создан разработчиком Джулиусом Брюсси (Julius Brussee), который обратил внимание на то, что значительная часть бюджета компаний расходуется на ненужную «болтливость» языковых моделей. Caveman удаляет из ответов чат-ботов слова-связки, приветствия и вводные конструкции, оставляя только суть, например программный код, команды, URL-адреса и технические детали. По результатам тестов использование плагина в Claude и Codex позволяет сократить количество генерируемых токенов на 65–75 %, предлагая пользователям несколько уровней сжатия текста. Брюсси подтвердил, что его разработкой уже пользуются сотрудники OpenAI, Nvidia, GitHub и DEPT.
Примечательно, что к развитию проекта присоединились и сами создатели популярных ИИ-моделей, напрямую заинтересованные в оптимизации. Согласно записям на платформе GitHub, технический директор OpenAI Шейн Суини (Shayne Sweeney) лично внёс изменения в репозиторий Caveman, добавив поддержку фирменного инструмента Codex. Кроме того, утилита теперь доступна в виде полноценного автономного агента для работы через терминал, который расходует почти в два раза меньше токенов при выполнении аналогичных задач и полностью совместим с ИИ-системой OpenClaw.
Появление Caveman стало реакцией на глобальную проблему непредсказуемого роста стоимости ИИ-вычислений, вынуждающего такие крупные компании, как Uber и Walmart лимитировать использование искусственного интеллекта своими сотрудниками. Производитель оборудования Legrand также распространил внутреннюю памятку, призывающую работников контролировать использование нейросетей из-за новых лимитов. В документе руководство рекомендовало отказаться от регулярного применения самых мощных языковых моделей и активировать «язык пещерного человека» для уменьшения объёма ответов без потери их качества.
Ранее генеральный директор OpenAI Сэм Альтман (Sam Altman) заявлял, что привычка пользователей писать в промптах слова «пожалуйста» и «спасибо» обходится OpenAI в десятки миллионов долларов дополнительных затрат на электроэнергию. На фоне этого тренда консалтинговая компания Accenture начала предлагать клиентам новые услуги, связанные с токеномикой.
Источник:
