Исследователи из Stanford University представили Locket — фреймворк для управления доступом к функциям LLM на уровне отдельных API-вызовов. Это позволяет гибко настраивать, какие функции и в каких условиях могут вызываться агентом, что критично для безопасности и контроля поведения ИИ-агентов.
Locket работает на уровне промежуточного слоя между LLM и внешними сервисами, анализируя контекст запроса и применяя политики доступа. Например, можно запретить вызов платежных API без подтверждения или ограничить доступ к определенным базам данных в зависимости от роли пользователя.
Особенность Locket — поддержка сложных условий доступа, включая временные ограничения, проверку контекста и каскадные разрешения. Это делает его полезным для построения сложных агентных систем, где важно контролировать, какие действия может выполнять агент в зависимости от ситуации.
Для разработчиков ИИ-агентов Locket может стать важным инструментом, особенно при интеграции с внешними сервисами и API. Он позволяет избежать рисков, связанных с неконтролируемыми действиями агентов, и обеспечивает прозрачность в управлении доступом.