Разработчики представили метод предотвращения утечки конфиденциальных данных при работе ИИ-агентов с кодом. Решение использует систему хуков, которые перехватывают обращения модели к файловой системе или переменным окружения. Это позволяет фильтровать секреты в реальном времени, блокируя передачу API-ключей и токенов в контекстное окно модели до того, как они попадут во внешние инструменты или логи.
Проблема безопасности при использовании агентных систем заключается в их автономности: модель может непреднамеренно отправить секретные данные в сторонний сервис или сохранить их в открытом репозитории в процессе выполнения задачи. Предложенный подход внедряется на уровне оркестрации, создавая прослойку между агентом и средой исполнения. Такой фильтр работает как «предохранитель», проверяя исходящие запросы на наличие паттернов, соответствующих секретам, и принудительно маскируя их.
Метод ориентирован на интеграцию в существующие рабочие процессы разработки, где агенты имеют доступ к локальным конфигурационным файлам. В отличие от статических анализаторов, этот подход динамически отслеживает активность агента в процессе выполнения кода, что критически важно для предотвращения утечек в сценариях автоматизированного деплоя или тестирования, где модель оперирует реальными учетными данными.
Ключевые факты
- Механизм хуков перехватывает системные вызовы агента для контроля доступа к чувствительным данным.
- Система блокирует передачу API-ключей, паролей и токенов в контекст LLM в режиме реального времени.
- Решение минимизирует риски утечки секретов при автоматизированной работе агентов с кодом и конфигурациями.
- Метод реализован как прослойка между средой исполнения и агентным фреймворком, не требуя переобучения моделей.