Исследование JetBrains показало, что упрощение языка в промптах для ИИ-агентов позволяет сократить потребление токенов до 65%. Отказ от вежливых конструкций и грамматически сложных предложений в пользу лаконичных команд не только снижает затраты на инференс, но и повышает скорость обработки запросов, сохраняя при этом точность выполнения задач на уровне стандартных инструкций.
Эксперимент был сфокусирован на анализе того, как структура естественного языка влияет на стоимость работы LLM. Разработчики сравнили стандартные промпты, содержащие этикет и развернутые пояснения, с «пещерным» стилем — короткими фразами, состоящими из ключевых слов и прямых указаний. Результаты подтвердили, что модели эффективно интерпретируют сжатый контекст, если он содержит все необходимые параметры для выполнения задачи.
Такой подход особенно актуален для систем, где стоимость API-запросов напрямую зависит от объема входных данных. Оптимизация промптов позволяет снизить нагрузку на контекстное окно модели, что критически важно при работе с длинными цепочками рассуждений или сложными агентными сценариями, требующими многократных итераций.
Ключевые факты
- Экономия токенов при переходе на лаконичный стиль общения с агентами достигает 65%.
- Упрощение промптов не привело к статистически значимому снижению качества ответов в протестированных сценариях.
- Использование «пещерного» стиля сокращает время генерации за счет уменьшения количества токенов в запросе.
- Метод наиболее эффективен в агентных системах с высокой частотой вызовов API и ограниченным контекстным окном.