Исследователи проанализировали эффективность иерархических архитектур, где основной агент делегирует подзадачи специализированным моделям. Выяснилось, что использование моделей одинакового размера для всех ролей избыточно. Авторы предложили стратегию распределения вычислительных мощностей, при которой сложные задачи планирования требуют более крупных моделей, тогда как выполнение конкретных поисковых запросов и синтез ответов могут быть делегированы менее ресурсоемким системам без потери качества.
В современных агентных системах часто применяется подход «один размер для всех», что ведет к неоправданному росту затрат на инференс и увеличению задержек. Иерархическая структура, предложенная в работе, разделяет процесс поиска на три функциональных этапа: декомпозицию запроса, выполнение поиска и агрегацию результатов. Такой подход позволяет гибко настраивать масштаб используемых моделей на каждом этапе.
Эксперименты показывают, что правильное распределение «интеллекта» между узлами системы позволяет значительно снизить стоимость эксплуатации агента при сохранении высокой точности ответов. Это открывает путь к созданию более экономически эффективных агентных систем, способных обрабатывать сложные многошаговые запросы в реальном времени с минимальными затратами вычислительных ресурсов.
Ключевые факты
- Архитектура разделяет иерархический поиск на три этапа: декомпозиция, выполнение подзапросов и синтез итогового ответа.
- Использование менее мощных моделей для выполнения рутинных поисковых операций позволяет сократить общие затраты на инференс без снижения качества результатов.
- Основной агент, отвечающий за планирование и декомпозицию, требует максимальной емкости модели для корректной обработки сложных инструкций.
- Исследование подтверждает, что гетерогенные агентные системы превосходят однородные архитектуры по соотношению стоимости и производительности.