Исследователи представили Agora — новый фреймворк для оркестрации ИИ-агентов, использующий аукционный механизм для распределения задач между специализированными моделями. В отличие от традиционных систем, Agora учитывает не только функциональное соответствие, но и динамические показатели производительности, стоимости и точности, что позволяет оптимизировать процесс принятия решений в сложных агентных системах и повысить общую эффективность выполнения запросов.
Современные агентные системы часто сталкиваются с проблемой неэффективного выбора инструментов, когда выбор модели основывается лишь на поверхностном соответствии задаче. Agora переводит этот процесс в плоскость рыночного взаимодействия: экспертные модели «торгуются» за выполнение конкретного подзадания, предлагая свои услуги на основе текущих метрик качества и затрат. Такой подход позволяет системе гибко адаптироваться к меняющимся условиям, выбирая наиболее подходящего исполнителя для каждого этапа работы.
Внедрение аукционного принципа позволяет минимизировать расходы на инференс и сократить время ожидания, не жертвуя при этом качеством результата. Система динамически оценивает возможности доступных моделей, что особенно критично при работе с гетерогенными средами, где стоимость и скорость отклика разных API могут существенно различаться. Это решение предлагает новый взгляд на архитектуру мультиагентных систем, делая их более автономными и экономически эффективными.
Ключевые факты
- Agora использует аукционный алгоритм для выбора экспертных моделей в агентных пайплайнах.
- Система учитывает вариативность производительности и стоимость вычислений при распределении задач.
- Механизм позволяет динамически оптимизировать выбор инструментов для повышения точности рассуждений.
- Фреймворк направлен на устранение неэффективности при использовании API с похожим функционалом.