Исследователи предложили новый подход к управлению дискуссиями в мультиагентных системах (MAD), направленный на снижение эффекта «слепого конформизма» у LLM. Вместо оценки отдельных ответов через уверенность или перплексию, метод фокусируется на анализе групповых связей и структуры дебатов, что позволяет повысить точность логических рассуждений и предотвратить необоснованное согласие агентов с ошибочными мнениями коллег.

В многоагентных системах модели часто склонны к групповому мышлению, где агенты начинают поддерживать неверные аргументы, если они представлены более уверенно. Традиционные метрики, такие как уровень уверенности модели или перплексия, оказались неэффективными, так как они не учитывают фактическую корректность цепочки рассуждений. Новый алгоритм регулирует отношения внутри группы, заставляя агентов критически оценивать аргументацию друг друга, а не просто следовать за большинством.

Данное исследование предлагает пересмотреть архитектуру взаимодействия агентов, внедряя механизмы контроля за качеством дискуссии. Это позволяет системе сохранять разнообразие мнений и выявлять логические ошибки на ранних этапах обсуждения. Такой подход значительно улучшает итоговые показатели моделей в задачах, требующих многошагового рассуждения и верификации фактов.

Ключевые факты

  • Разработан метод регулирования отношений в дебатах для минимизации слепого конформизма в мультиагентных системах.
  • Установлено, что стандартные метрики (уверенность и перплексия) не отражают качество логики и могут усиливать ошибки.
  • Новый подход смещает фокус с индивидуальной оценки агента на анализ групповой динамики и связей между участниками дискуссии.
  • Метод направлен на повышение точности рассуждений в сложных задачах, где LLM склонны к необоснованному согласию с неверными ответами.