Разработчики представили компактную архитектуру агентного RAG-решения, работающую на 11 узлах с потреблением менее 512 МБ оперативной памяти. Система интегрирует протокол MCP для взаимодействия с внешними данными и включает встроенный модуль PII Shield для автоматической фильтрации персональной информации, что делает её пригодной для обработки чувствительных финансовых документов в ограниченных вычислительных средах.
Основная задача проекта — решение проблемы «тяжеловесности» современных агентных систем. Вместо использования массивных фреймворков, решение опирается на модульную структуру, где каждый узел выполняет узкоспециализированную задачу: от парсинга данных до обеспечения безопасности. Использование протокола Model Context Protocol (MCP) позволяет системе динамически подключаться к различным источникам данных без необходимости переобучения или сложной настройки коннекторов.
Внедрение PII Shield на уровне обработки данных обеспечивает соответствие требованиям приватности до того, как информация попадает в контекстное окно модели. Это критически важно для финансовых приложений, где утечка конфиденциальных данных при передаче в LLM является основным барьером для внедрения ИИ. Архитектура демонстрирует возможность создания эффективных, автономных агентов на периферийных устройствах или в облачных инстансах с минимальными затратами ресурсов.
Ключевые факты
- Потребление оперативной памяти системы составляет менее 512 МБ.
- Архитектура состоит из 11 независимых узлов обработки.
- В систему интегрирован протокол MCP для стандартизированного доступа к данным.
- Встроенный модуль PII Shield обеспечивает автоматическую деидентификацию данных.
- Решение оптимизировано для парсинга и анализа сложных финансовых документов.