Представлен инструмент с открытым исходным кодом для распределенного отслеживания цепочек вызовов LLM, который позволяет связывать логи выполнения с конкретными Pull Request и Issue в GitHub. Решение упрощает отладку сложных агентных систем, обеспечивая прозрачность взаимодействия между кодом и поведением модели в распределенной среде разработки.
Система решает проблему «черного ящика» при работе с LLM, позволяя разработчикам видеть, какой именно запрос или контекст привел к конкретному результату. Интеграция с GitHub дает возможность отслеживать изменения в коде параллельно с изменениями в промптах или параметрах моделей, что критически важно для воспроизводимости результатов в агентных пайплайнах.
Инструмент ориентирован на команды, работающие над сложными LLM-приложениями, где требуется глубокая аналитика прохождения данных через цепочки агентов. Использование распределенного трейсинга помогает выявлять узкие места в производительности и ошибки в логике принятия решений агентами, связывая их с версиями репозитория.
Ключевые факты
- Инструмент распространяется под лицензией Apache 2.0.
- Основная функция — распределенный трейсинг цепочек вызовов LLM.
- Поддерживается прямая интеграция с GitHub для привязки логов к PR и Issue.
- Решение направлено на повышение прозрачности и отладки агентных систем.