Исследователи представили Blast Radius — слой управления памятью для ИИ-агентов, решающий проблему избыточного расхода токенов при написании кода. Система прогнозирует объем контекста, необходимого для выполнения задачи, и оптимизирует его использование через механизмы Necrophoresis и RDM. Это позволяет снизить затраты на инференс, сохраняя при этом точность агентных систем при работе с большими кодовыми базами.
Основная проблема агентного программирования заключается в неэффективном использовании контекстного окна, когда модель тратит ресурсы на обработку нерелевантной информации. Blast Radius анализирует связь между кодом и контекстом, чтобы динамически определять, какие данные критически важны для текущего шага, а какие можно временно исключить из активной памяти.
Механизм Necrophoresis обеспечивает обратимое удаление данных: «мертвый» контекст архивируется в исходном виде и может быть восстановлен при необходимости. Параллельно с этим технология Recurring Dead Matter (RDM) выявляет и изолирует повторяющиеся фрагменты транскриптов, которые засоряют память агента, не неся новой смысловой нагрузки для процесса разработки.
Ключевые факты
- Blast Radius использует предиктивный слой для оценки «радиуса действия» входящего промпта.
- Метод Necrophoresis позволяет архивировать неактуальный контекст с возможностью его последующего восстановления.
- Технология RDM автоматически идентифицирует и удаляет повторяющиеся данные, снижая избыточность токенов.
- Решение направлено на повышение экономической эффективности агентных систем в задачах автоматизированного программирования.