Исследователи представили GRADE — иерархическую систему, решающую проблему избыточных вычислений в мультиагентных архитектурах. Вместо активации всех доступных моделей, GRADE использует четыре легковесных обучаемых гейта для динамического выбора агентов, определения глубины рассуждений и оценки целесообразности межкомпонентной коммуникации. Это позволяет значительно снизить затраты на инференс при сохранении высокой точности ответов в сложных задачах.
Традиционные мультиагентные системы часто страдают от неэффективного использования параметров, когда каждый запрос проходит через всю цепочку агентов, что неоправданно увеличивает стоимость и задержки. GRADE вводит механизм «адаптивной глубины», который позволяет системе самостоятельно решать, достаточно ли текущего уровня обработки данных или требуется привлечение более мощных и специализированных агентов для уточнения результата.
Метод фокусируется на трех ключевых аспектах: выборе наиболее подходящих агентов для конкретного запроса, определении необходимой глубины иерархического анализа и фильтрации коммуникаций между агентами. Такой подход превращает статичные цепочки вызовов в гибкую систему, которая оптимизирует ресурсы в реальном времени, минимизируя количество токенов, затрачиваемых на промежуточные этапы рассуждений.
Ключевые факты
- GRADE использует четыре обучаемых гейта для управления маршрутизацией и глубиной обработки запросов.
- Система минимизирует количество активных параметров, исключая избыточные вызовы агентов в мультиагентных ансамблях.
- Механизм адаптивной глубины позволяет системе динамически определять, когда завершить процесс рассуждения.
- Архитектура направлена на снижение стоимости инференса и уменьшение задержек в сложных иерархических системах.