Разработчики столкнулись с тем, что популярные AI-редакторы кода, такие как Cursor, теряют контекст длительных сессий, забывая детали обсуждений спустя короткое время. Для решения этой проблемы была создана внешняя система управления памятью, которая индексирует историю диалогов и техническую документацию, обеспечивая модели доступ к релевантным данным на протяжении всего процесса разработки.
Суть подхода заключается в создании промежуточного слоя, который работает как векторная база знаний для текущего проекта. Вместо того чтобы полагаться исключительно на встроенный контекст окна модели, система автоматически извлекает ключевые фрагменты кода и прошлые решения, когда пользователь задает вопрос. Это позволяет сохранять преемственность в сложных задачах, требующих учета архитектурных решений, принятых в начале сессии.
Архитектура системы включает в себя автоматизированный пайплайн сбора данных, который сегментирует историю чатов и связывает их с конкретными файлами проекта. Такой подход минимизирует галлюцинации модели и снижает необходимость повторного объяснения контекста, что критически важно при работе над крупными кодовыми базами, где изменения в одном модуле могут влиять на другие части системы.
Ключевые факты
- Проблема заключается в «забывчивости» AI-ассистентов при длительных сессиях, что приводит к потере контекста архитектурных решений.
- Система использует RAG-подход (Retrieval-Augmented Generation) для индексации истории диалогов и технической документации проекта.
- Реализован механизм автоматического извлечения релевантных фрагментов кода, что позволяет модели опираться на актуальное состояние проекта.
- Внедрение внешнего слоя памяти позволяет поддерживать связность разработки на протяжении нескольких часов работы без необходимости ручного напоминания контекста.