Lians AI представила инструмент для управления памятью в агентных системах, который позволяет динамически ограничивать объем контекста на основе токенов. Решение обеспечивает структурированное хранение доказательств и данных, необходимых для выполнения задач, помогая разработчикам оптимизировать использование контекстного окна LLM и повышать точность ответов агентов в сложных рабочих процессах.
Система фокусируется на решении проблемы «забывания» или переполнения контекста при длительных сессиях взаимодействия. Вместо простой передачи всей истории диалога, Lians AI позволяет агентам извлекать только релевантную информацию, подтвержденную конкретными данными. Это снижает затраты на инференс и минимизирует риск галлюцинаций, вызванных избыточным или неструктурированным контекстом.
Инструментарий интегрируется в существующие пайплайны разработки, предоставляя API для управления состоянием памяти. Разработчики могут задавать жесткие лимиты по количеству токенов, при этом система автоматически приоритизирует наиболее важные фрагменты данных, обеспечивая стабильную работу агентов в условиях ограниченных ресурсов модели.
Ключевые факты
- Lians AI реализует механизм токен-ориентированного управления памятью (token-bounded memory).
- Система поддерживает автоматическую фильтрацию и приоритизацию доказательств для снижения нагрузки на контекстное окно.
- Инструмент предназначен для оптимизации стоимости и точности работы ИИ-агентов в долгосрочных воркфлоу.
- Решение доступно в формате open-source проекта на GitHub для интеграции в агентные архитектуры.