Проект Letheo представляет собой специализированную среду выполнения (runtime), написанную на языке Rust, предназначенную для управления памятью ИИ-агентов. Основная концепция системы заключается в имитации биологических процессов забывания, основанных на физических принципах. В отличие от стандартных векторных баз данных, которые хранят информацию статично, Letheo внедряет механизмы динамического затухания данных, позволяя агентам приоритизировать актуальный контекст и избавляться от устаревших или нерелевантных воспоминаний.
Архитектура решения опирается на принципы когнитивной психологии, где информация со временем теряет свой «вес» или значимость, если к ней не происходит обращений. Использование Rust обеспечивает высокую производительность и безопасность при обработке потоков данных в реальном времени, что критично для агентных систем с высокой нагрузкой. Разработчики системы стремятся решить проблему «засорения» контекстного окна LLM, предлагая автоматизированный подход к очистке памяти на основе настраиваемых физических моделей распада данных.
Инструмент ориентирован на интеграцию в сложные агентные пайплайны, где требуется долгосрочное хранение опыта без бесконечного раздувания объема используемых токенов. Система позволяет настраивать параметры «забывания» для различных типов данных, обеспечивая баланс между сохранением критически важной информации и эффективным использованием ресурсов. Такой подход позволяет создавать более адаптивные и автономные системы, способные эффективно функционировать в динамически меняющихся условиях, имитируя естественные механизмы человеческой памяти.