Разработчики представили PromptShark — инструмент для работы с промтами в ИИ-агентах. Это MitM-прокси, который перехватывает и анализирует запросы к моделям, а также может обнаруживать циклы в C++ коде и переиспользовать промты.
PromptShark позволяет отслеживать, как агенты взаимодействуют с моделями, и выявлять повторяющиеся или неэффективные промты. Это может быть полезно для оптимизации работы агентов и снижения затрат на инференс.
Инструмент поддерживает переиспользование промтов, что позволяет ускорить разработку и тестирование агентов. PromptShark написан на C++ и распространяется под открытой лицензией.
Код проекта доступен на GitHub, где также можно найти документацию и примеры использования.