PrivAiTe — это self-hosted прокси-решение, предназначенное для защиты конфиденциальных данных при работе с большими языковыми моделями. Инструмент автоматически обнаруживает и маскирует персональную информацию (PII) в промптах и результатах вызова инструментов (tool calls) до того, как данные отправляются на обработку внешним API, обеспечивая безопасность корпоративных коммуникаций и соблюдение требований приватности.
Система встраивается в цепочку взаимодействия с LLM как промежуточное звено. Она анализирует входящие и исходящие потоки данных, выявляя чувствительные элементы, такие как имена, адреса, номера телефонов или финансовые реквизиты. Это позволяет разработчикам использовать возможности облачных моделей, не опасаясь утечки конфиденциальной информации в процессе обучения или логирования запросов на стороне провайдера.
Особое внимание в проекте уделено поддержке агентных систем, где LLM активно взаимодействуют с внешними инструментами. PrivAiTe корректно обрабатывает структуру вызовов функций, предотвращая попадание PII в аргументы функций, которые могут быть переданы во внешние сервисы или базы данных. Решение ориентировано на локальное развертывание, что дает полный контроль над политиками фильтрации и хранением логов.
Ключевые факты
- PrivAiTe функционирует как прокси-сервер, перехватывающий запросы между приложением и LLM-провайдером.
- Инструмент поддерживает автоматическую детекцию и маскировку PII в промптах и аргументах tool calls.
- Решение предназначено для self-hosted установки, что исключает передачу данных третьим лицам для анализа.
- Проект нацелен на интеграцию в enterprise-инфраструктуру для обеспечения комплаенса при работе с ИИ-агентами.