ZenML представила Kitaru — инструмент для захвата, воспроизведения и оптимизации работы ИИ-агентов в реальных условиях эксплуатации. Решение позволяет разработчикам логировать взаимодействия агентов, анализировать их поведение и повторно запускать процессы для поиска причин ошибок, что критически важно для повышения надежности агентных систем, работающих с непредсказуемыми LLM-вызовами.
Платформа решает проблему «черного ящика», характерную для современных агентных архитектур. Вместо того чтобы полагаться на разрозненные логи, Kitaru предоставляет структурированный способ отслеживания цепочек рассуждений и вызовов инструментов. Это дает возможность воспроизвести конкретный инцидент, внести изменения в промпты или логику агента и проверить результат на тех же входных данных, что были в момент сбоя.
Инструмент ориентирован на интеграцию в существующие пайплайны разработки. Он позволяет автоматизировать процесс тестирования и итеративного улучшения агентов, обеспечивая прозрачность принятия решений на каждом этапе выполнения задачи. Такой подход сокращает время на отладку и позволяет быстрее переходить от прототипа к стабильному промышленному решению.
Ключевые факты
- Kitaru разработана компанией ZenML для мониторинга и отладки агентных систем в продакшене.
- Основной функционал включает запись всех этапов работы агента, включая вызовы инструментов и промежуточные рассуждения.
- Инструмент позволяет воспроизводить прошлые сессии для тестирования изменений в логике агента.
- Решение направлено на устранение непредсказуемости поведения LLM в сложных бизнес-сценариях.