Разработчики представили инструмент Access-aware text-to-SQL, решающий проблему чрезмерного сбора данных ИИ-агентами при работе с базами данных. Решение внедряет слой контроля доступа непосредственно в процесс генерации SQL-запросов, гарантируя, что LLM запрашивает только ту информацию, на которую у пользователя есть явные права, предотвращая утечки данных и несанкционированный доступ к конфиденциальным таблицам.
Основная сложность при использовании LLM для анализа баз данных заключается в том, что модель может случайно или намеренно сформировать запрос, выходящий за рамки полномочий текущего пользователя. Данный фреймворк интегрирует политики безопасности на этапе формирования промпта, ограничивая видимость схемы базы данных и доступные операции в зависимости от контекста прав доступа.
Такой подход позволяет безопасно использовать возможности Text-to-SQL в корпоративных средах, где разграничение прав доступа является критическим требованием. Инструмент минимизирует риски «галлюцинаций» или манипуляций, при которых агент пытается получить доступ к системным таблицам или данным других пользователей, ограничивая пространство поиска модели строго разрешенными объектами.
Ключевые факты
- Инструмент предотвращает overfetching, ограничивая область видимости данных для LLM на уровне SQL-запроса.
- Система использует динамическую фильтрацию схемы, скрывая от модели недоступные таблицы и столбцы.
- Решение ориентировано на интеграцию в агентные системы, работающие с реляционными базами данных в корпоративном секторе.
- Проект доступен в формате open-source для внедрения в существующие пайплайны обработки данных.