Разработчики представили Two-tier-memory — библиотеку для создания запрашиваемой долговременной памяти в ИИ-агентах, специализирующихся на написании кода. Система использует гибридный подход, сочетающий быстрое семантическое извлечение контекста с точным поиском по ключевым словам. Это позволяет агентам эффективно управлять большими кодовыми базами, сохраняя релевантную информацию о структуре проекта и истории изменений без перегрузки контекстного окна модели.
Архитектура решения разделяет данные на два уровня: оперативный кэш для текущих задач и постоянное хранилище для долгосрочного контекста. Такой подход решает проблему «забывания» агентами деталей проекта при работе над объемными репозиториями. Инструмент спроектирован как легковесный модуль, который можно интегрировать в существующие агентные фреймворки для улучшения качества генерации кода и понимания архитектуры приложения.
Система ориентирована на автоматизацию работы с кодом, где критически важно сохранять связи между разрозненными файлами и функциями. Использование двухуровневой структуры минимизирует количество токенов, необходимых для передачи контекста, что снижает затраты на инференс и повышает точность ответов агента при выполнении сложных задач по рефакторингу или добавлению нового функционала.
Ключевые факты
- Система реализует двухуровневую иерархию памяти для хранения и извлечения контекста кода.
- Поддерживает семантический поиск для нахождения концептуально схожих фрагментов кода.
- Включает механизм точного поиска по ключевым словам для работы с конкретными именами функций и классов.
- Предназначена для интеграции в ИИ-агенты, работающие с крупными репозиториями.
- Проект опубликован в открытом доступе на GitHub для расширения возможностей агентных систем.