Разработчики представили решение для предотвращения бесконтрольного выполнения задач ИИ-агентами. Система внедряет паттерн «maker-checker», который разделяет процессы создания контента или кода и его финального утверждения. Это позволяет исключить ситуацию, когда агент самостоятельно одобряет и отправляет в продакшн результаты собственной деятельности без участия человека или независимого верификатора.
Инструментарий позволяет настраивать политики проверки, требующие обязательного подтверждения действий агента внешним субъектом. В архитектуру заложена возможность интеграции с существующими рабочими процессами, где агент выступает в роли исполнителя, а отдельный модуль или человек — в роли контролера. Такой подход минимизирует риски ошибок, галлюцинаций и несанкционированных изменений в критически важных системах.
Решение ориентировано на создание безопасного контура при автоматизации бизнес-процессов. Оно обеспечивает прозрачность действий агентов, предоставляя логи всех этапов проверки. Внедрение подобного механизма позволяет компаниям более уверенно делегировать ИИ сложные задачи, сохраняя при этом жесткий контроль над финальным результатом и соблюдением заданных регламентов.