Разработчики представили инструмент Policy Gate, который проверяет действия AI-агентов перед выполнением инструментальных вызовов. Это решение направлено на предотвращение потенциально опасных или нежелательных операций, таких как удаление файлов или выполнение вредоносного кода.
Policy Gate интегрируется в существующие системы и позволяет настраивать правила безопасности в зависимости от контекста. Например, можно запретить удаление файлов из определённых директорий или ограничить доступ к внешним API.
Инструмент поддерживает гибкие настройки и может быть адаптирован под различные сценарии использования. Разработчики отмечают, что Policy Gate особенно полезен в корпоративных средах, где важно соблюдать строгие меры безопасности.
Текущая версия доступна в открытом доступе, и разработчики планируют добавить дополнительные функции, такие как аудит и мониторинг действий агентов.