Project Guardian представляет собой файрвол уровня пользователя, предназначенный для фильтрации и контроля действий ИИ-агентов в реальном времени. Инструмент выступает посредником между агентом и внешней средой, позволяя разработчикам задавать правила доступа к системным ресурсам, API и файловой системе, что минимизирует риски несанкционированного выполнения команд или утечки данных при автономной работе моделей.
Архитектура решения ориентирована на интеграцию в существующие агентные пайплайны. Система перехватывает запросы агента до их исполнения, проверяя их на соответствие заданным политикам безопасности. Это позволяет внедрять «песочницы» для ИИ, где агент может выполнять задачи, но ограничен в правах на запись, удаление или отправку сетевых пакетов без явного подтверждения или соответствия критериям безопасности.
Такой подход решает проблему «непредсказуемого поведения» LLM, когда модель может случайно или намеренно выйти за пределы своих полномочий. Использование файрвола на уровне пользователя упрощает аудит действий агента и позволяет внедрять политики безопасности без необходимости модификации самого кода модели или глубокой переработки агентной инфраструктуры.
Ключевые факты
- Инструмент работает на уровне пользователя (user-space), обеспечивая изоляцию действий агента от критических системных процессов.
- Система поддерживает настройку правил доступа, ограничивающих взаимодействие агента с файловой системой и внешними сетевыми ресурсами.
- Решение направлено на предотвращение несанкционированных операций, которые могут быть инициированы агентом в процессе выполнения задач.
- Проект доступен в формате open-source и предназначен для встраивания в агентные системы на этапе оркестрации.