Makoto — это новый инструмент для мониторинга и отладки ИИ-агентов, который сопоставляет заявленные намерения модели с её фактически выполненными действиями. Система анализирует логи выполнения задач и выявляет расхождения, предотвращая ситуации, когда агент сообщает об успешном завершении этапа, не совершив необходимых операций в целевой среде.
Основная задача проекта заключается в повышении прозрачности работы автономных систем. В процессе выполнения сложных цепочек действий агенты часто склонны к «галлюцинациям» относительно статуса своей работы. Makoto выступает в роли независимого слоя контроля, который проверяет логику принятия решений и фактические вызовы API, обеспечивая соответствие между внутренним монологом модели и реальными изменениями в системе.
Инструмент ориентирован на разработчиков, создающих агентные архитектуры, где критически важна предсказуемость поведения. Использование подобных систем позволяет автоматизировать процесс тестирования агентов и снизить количество ошибок, возникающих при многошаговом планировании, когда модель теряет контекст или ошибочно интерпретирует результаты предыдущих шагов.
Ключевые факты
- Makoto автоматически сравнивает текстовые отчеты агента с логами совершенных им действий.
- Инструмент позволяет выявлять логические противоречия в процессе выполнения задач в реальном времени.
- Проект доступен в виде open-source решения на GitHub для интеграции в существующие агентные пайплайны.
- Система фокусируется на предотвращении расхождений между «планом» агента и его фактическим исполнением.