Исследователи из MIT и UC Berkeley предложили новый метод для работы с параллельными ветвями в агентских workflows, который может значительно ускорить выполнение задач. В традиционных системах ветви, отвечающие за выполнение подзадач, сбор данных или генерацию решений, объединяются в финальном текстовом синтезе. Это создаёт узкое место, особенно при работе с большими языковыми моделями (LLM), которые обрабатывают контекст последовательно.
Авторы предлагают использовать синтез в латентном пространстве (latent-space synthesis) для объединения результатов параллельных ветвей. Это позволяет избежать линейной обработки текста и ускорить выполнение сложных задач. Например, в задачах, требующих анализа нескольких источников или генерации множества вариантов решений, такой подход может сократить время выполнения в несколько раз.
Ключевое преимущество метода заключается в том, что он сохраняет структурированность данных на всех этапах выполнения workflow. Это особенно важно для агентов, работающих с большими объёмами информации или в условиях ограниченных ресурсов. Исследователи также отмечают, что их метод может быть интегрирован в существующие системы без значительных изменений в архитектуре.
Для разработчиков ИИ-агентов этот подход открывает новые возможности для оптимизации workflows. В частности, он может быть полезен при создании агентов, выполняющих сложные задачи, требующие параллельной обработки данных. Например, в системах, где необходимо анализировать несколько источников информации или генерировать множество вариантов решений, использование синтеза в латентном пространстве может значительно повысить эффективность.