Исследователи представили MemLens — систему управления памятью для LLM-агентов, которая переходит от слепого хранения всех диалогов к выборочному сохранению данных на основе их ценности. Решение позволяет оптимизировать контекстное окно, отсеивая избыточную информацию и сохраняя только значимые для долгосрочного планирования и персонализации записи, что повышает эффективность работы агентов в сложных сценариях.
Современные агентные системы часто перегружают контекст нерелевантными данными, что ведет к деградации качества ответов и росту затрат на инференс. MemLens внедряет механизм оценки полезности записей, анализируя взаимодействие пользователя и модели. Система автоматически классифицирует историю диалогов, выделяя ключевые факты и контекстные блоки, которые действительно влияют на качество будущих рассуждений агента.
Помимо оптимизации хранения, MemLens включает инструменты интерактивной аналитики. Разработчики получают возможность визуализировать структуру памяти агента, отслеживать, какие именно фрагменты данных используются для принятия решений, и вручную корректировать политики удержания информации. Это дает прозрачность в управлении «памятью» агента, превращая её из «черного ящика» в управляемый ресурс.
Ключевые факты
- MemLens использует подход «value-aware», который оценивает полезность каждой записи перед её сохранением в долгосрочную память.
- Система решает проблему избыточности данных, характерную для стандартных RAG-решений, где все взаимодействия хранятся без учета их влияния на результат.
- Встроенный аналитический модуль позволяет визуализировать и верифицировать содержимое памяти агента в процессе его работы.
- Инструмент ориентирован на улучшение долгосрочного планирования и качества персонализированных ответов в агентных архитектурах.