Cloudflare представил новую функцию в AI Gateway — контроль расходов в реальном времени. Это помогает предотвратить неконтролируемые траты на токены при работе с несколькими провайдерами ИИ.
Теперь компании могут устанавливать лимиты на основе идентификации пользователей. Интеграция с Cloudflare Access позволяет применять политики и бюджеты, привязанные к конкретным сотрудникам или группам.
Функция поддерживает несколько провайдеров ИИ, включая OpenAI, Anthropic и Mistral. Это упрощает управление затратами на ИИ-сервисы, особенно в крупных организациях с множеством пользователей.
Cloudflare также добавил уведомления о превышении лимитов и возможность блокировки запросов, что помогает избежать неожиданных расходов.