Компания xAI обновила ценовую политику для своей актуальной модели Grok 4.5, существенно снизив стоимость использования кэшированного контекста. Цена за один миллион токенов при работе с кэшем сократилась с 0,50 до 0,30 доллара. Это изменение направлено на повышение экономической эффективности при выполнении задач, требующих обработки больших объемов повторяющихся данных или длинных контекстных окон.
Снижение стоимости кэширования делает использование Grok 4.5 более выгодным для сценариев, где модель должна постоянно обращаться к одним и тем же системным инструкциям, объемным документам или справочным материалам. Использование кэша позволяет избежать повторной обработки токенов, что не только уменьшает итоговый счет за API, но и сокращает время отклика системы при выполнении запросов.
Данный шаг отражает общую рыночную тенденцию по оптимизации затрат на инференс LLM. По мере того как разработчики переходят к созданию более сложных агентных систем, работающих с обширными базами знаний, стоимость обработки контекста становится одним из ключевых факторов при выборе провайдера модели. Конкуренция в сегменте API-сервисов вынуждает компании предлагать более гибкие условия для высоконагруженных приложений.
Ключевые факты
- Новая цена за 1 млн токенов кэша в Grok 4.5 составляет 0,30 доллара.
- Предыдущая стоимость услуги составляла 0,50 доллара за 1 млн токенов.
- Снижение цены на кэширование контекста составляет 40%.
- Оптимизация направлена на снижение затрат при работе с длинными контекстными окнами и повторяющимися промптами.