Инструмент Agent-zero-trust представляет собой защитный слой для сред разработки, позволяющий сканировать репозитории до того, как к ним получит доступ ИИ-агент. Решение помогает выявлять потенциально опасные файлы, секреты или конфигурации, предотвращая утечки данных и несанкционированные действия в кодовой базе, что критически важно для безопасной интеграции автономных систем программирования в рабочие процессы.
Использование ИИ-агентов для написания и рефакторинга кода создает новые векторы атак, связанные с чтением чувствительной информации или выполнением вредоносных инструкций, внедренных в проект. Данный инструмент выступает в роли фильтра, который ограничивает область видимости агента, позволяя разработчикам задавать политики доступа к файловой системе и исключать из индексации конфиденциальные данные.
Система ориентирована на интеграцию в CI/CD пайплайны и локальные окружения разработчиков. Она позволяет автоматизировать проверку безопасности на этапе подготовки контекста для LLM, минимизируя риски, связанные с «галлюцинациями» агентов или их эксплуатацией через специально подготовленные файлы в репозитории.
Ключевые факты
- Инструмент предназначен для превентивного сканирования содержимого репозиториев перед передачей данных в контекстное окно ИИ-агента.
- Основная задача — предотвращение доступа агентов к секретам, ключам API и конфиденциальным файлам конфигурации.
- Решение поддерживает настройку политик безопасности для ограничения доступа к конкретным директориям и типам файлов.
- Инструмент доступен в формате open-source для внедрения в существующие рабочие процессы разработки.