Разработчики представили руководство по созданию агентного рантайма в стиле OpenHarness, раскрывающее внутреннее устройство систем управления ИИ. В отличие от готовых «черных ящиков», данный подход позволяет детально спроектировать ключевые компоненты: от механизмов использования инструментов и управления памятью до систем контроля разрешений, логики повторных попыток и координации взаимодействия между несколькими агентами в рамках единого процесса.
Система строится на модульной архитектуре, где каждый элемент — будь то типизированные схемы инструментов или жизненный цикл хуков — доступен для кастомизации. Это позволяет инженерам внедрять тонкую настройку контекста, включая методы его сжатия, и интегрировать системы отслеживания затрат непосредственно в поток выполнения. Такой подход дает полный контроль над тем, как агент принимает решения и взаимодействует с внешней средой.
Особое внимание уделено масштабируемости и безопасности. Реализация многоагентной координации и системы разрешений позволяет изолировать действия агентов, предотвращая несанкционированный доступ к ресурсам. Внедрение логики повторных попыток и отслеживания стоимости токенов делает систему пригодной для промышленного использования, обеспечивая прозрачность и предсказуемость поведения агентов в сложных рабочих процессах.
Ключевые факты
- Реализована поддержка типизированных схем инструментов для обеспечения строгой типизации при вызове функций.
- Внедрена система управления памятью с поддержкой методов сжатия контекста для оптимизации работы с длинными диалогами.
- Добавлен модуль отслеживания затрат (cost tracking) для мониторинга потребления ресурсов в реальном времени.
- Разработан механизм жизненного цикла хуков, позволяющий перехватывать и модифицировать выполнение задач на разных этапах.
- Реализована архитектура для многоагентной координации, позволяющая распределять задачи между специализированными узлами системы.