Исследователи представили фреймворк TEPA (Temporal Evidence-based Pruning of Agents), решающий проблему «загрязнения памяти» у ИИ-агентов. Система автоматически выявляет и удаляет неактуальные факты, которые противоречат новой информации. Это предотвращает галлюцинации и ошибки при принятии решений, возникающие из-за использования устаревших данных, накопленных в долгосрочной памяти агента в процессе выполнения длительных задач.
Проблема актуальности данных становится критической при работе агентов в динамических средах. Традиционные системы RAG часто извлекают все релевантные по семантике фрагменты, не учитывая их временную последовательность или логическую противоречивость. В результате агент может опираться на данные, которые уже были опровергнуты новыми событиями, что приводит к деградации качества ответов и неверному планированию действий.
Метод TEPA внедряет механизм верификации, который сопоставляет входящую информацию с уже существующей базой знаний. Если новая информация вступает в конфликт с накопленным опытом, система помечает старые записи как неактуальные и исключает их из контекстного окна. Это позволяет поддерживать чистоту промпта и гарантирует, что агент всегда оперирует наиболее свежими и достоверными данными, доступными в его хранилище.
Ключевые факты
- TEPA (Temporal Evidence-based Pruning of Agents) — новый подход к управлению долгосрочной памятью агентов.
- Основная задача метода — устранение «загрязнения памяти» (memory pollution), вызванного противоречивыми данными.
- Фреймворк автоматически идентифицирует и отзывает устаревшие факты при поступлении новых, опровергающих их доказательств.
- Использование TEPA позволяет снизить частоту ошибок при выполнении задач в меняющихся условиях среды.
- Исследование опубликовано на платформе arXiv и сфокусировано на повышении надежности автономных ИИ-систем.