arXiv · 11.06.2026 ·Протоколы для ИИ-агентов

Новые протоколы для оценки уверенности в многоагентных системах

Исследователи из MIT и Стэнфорда предложили новый подход к оценке уверенности в многоагентных системах. В работе, опубликованной на arXiv, они демонстрируют, как агрегировать сигналы уверенности от нескольких агентов для повышения надежности и прозрачности принятия решений.

В настоящее время уверенность используется в NLP для оценки надежности, контроля и различных задач принятия решений. Однако до сих пор не существовало методов для оценки уверенности в выходных данных многоагентных систем. Авторы предлагают протоколы, которые позволяют объединять уверенность от разных агентов в единый показатель.

Этот подход может быть полезен для разработки ИИ-агентов, таких как Jarv, так как позволяет улучшить качество принятия решений и повысить надежность системы. Агрегированные сигналы уверенности могут использоваться для весового голосования, контроля качества и других задач, связанных с координацией между агентами.

Работа также включает эксперименты, демонстрирующие эффективность предложенных протоколов. Исследователи показывают, что агрегированные сигналы уверенности позволяют значительно улучшить точность и надежность многоагентных систем по сравнению с традиционными методами.

Источник: arXiv

Похожие материалы

arXiv · Робототехника и ИИ-агенты Как улучшить надёжность ИИ-агентов в робототехнике Исследователи из MIT и других ведущих университетов предложили новый подход к улучшению надёжности ИИ-агентов в робототехнике. В своей работе, опубликованной на arXiv, они рассматривают проблему обнаружения аномалий в поведении роботов, управляемых генеративными моделями. arXiv · Оценка ИИ-агентов AgentBeats: новый подход к оценке ИИ-агентов Исследователи из Arxiv предложили новый подход к оценке ИИ-агентов, который решает проблему фрагментированности тестирования. В статье "AgentBeats: Agentifying Agent Assessment for Openness, Standardization, and Reproducibility" авторы отмечают, что существующие бенчмарки часто зависят от фиксированных, ориентированных на LLM, тестовых фреймворков. Это создает несоответствие между тестовыми и производственными условиями, а также ограничивает справедливое сравнение различных архитектур агентов. arXiv · Оркестрация ИИ-агентов Новый подход к маршрутизации множества ИИ-агентов Исследователи из Университета Карнеги-Меллон представили новую работу, посвящённую компиляционным методам в задачах маршрутизации множества агентов (MAPF). В отличие от классических подходов, где все агенты должны достичь заданных целей без столкновений, авторы рассматривают варианты с разными требованиями к агентам. NVIDIA Technical Blog · Многоагентные системы в квантовой финансовой аналитике Как многоагентные системы автоматизируют поиск финансовых сигналов NVIDIA представила исследование, в котором показано, как многоагентные системы могут автоматизировать и оптимизировать процесс поиска финансовых сигналов в квантовой аналитике. В статье рассматривается архитектура, которая использует несколько агентов для анализа данных, выявления паттернов и принятия решений на основе этих сигналов. arXiv · Коммуникация между агентами Новый метод коммуникации между гетерогенными ИИ-агентами Исследователи из MIT и Google Research предложили новый подход к коммуникации между ИИ-агентами, который может значительно улучшить эффективность и точность взаимодействия между разными моделями. В статье, опубликованной на arXiv, авторы описывают метод, позволяющий агентам обмениваться информацией через плотные латентные представления, что исключает необходимость кодирования и декодирования текста, что, в свою очередь, снижает затраты и потери информации. arXiv · Многозадачные ИИ-агенты Новый метод для координации агентов с разными целями Исследователи из MIT и Университета Карнеги-Меллона представили новый подход к обучению ИИ-агентов в условиях многозадачности и конфликтов целей. В статье на arXiv они описывают Preference Coordinated Multi-agent Policy Optimization (PCMA) — метод, который позволяет агентам координировать свои действия даже при наличии противоречивых целей и различий в наблюдениях и ролях. arXiv · RAG и визуальные агенты Как RAG помогает бороться с галлюцинациями в мультимодальных моделях Исследователи из MIT и других ведущих университетов предложили новый подход к снижению визуальных галлюцинаций в мультимодальных языковых моделях (MLLMs). Эти системы, способные обрабатывать как текстовые, так и визуальные данные, часто демонстрируют уверенность в своих ответах, даже когда визуальные данные слабые или неоднозначные. Это приводит к так называемым "галлюцинациям" — выводам, не соответствующим реальности. arXiv · Оптимизация инференса в ИИ-агентах Как снизить задержки в системах с потоковыми данными Исследователи из MIT и Google предложили новый подход к обработке потоковых данных в системах машинного обучения, который может существенно снизить задержки и нагрузку на серверы. В статье, опубликованной на arXiv, они описывают метод, который отделяет процесс инференса от обновления состояния, используя вероятностное прореживание (probabilistic thinning). arXiv · Оценка и аудит ИИ Как аудит решений улучшает прозрачность оценки ИИ Исследователи из MIT и других ведущих университетов предложили новый подход к аудиту публичных оценок ИИ-моделей. В статье, опубликованной на arXiv, они утверждают, что текущие рейтинги ИИ часто воспринимаются как окончательные, но на самом деле они представляют собой выборочные временные ряды, искажённые правилами отчётности, пересмотром бенчмарков и пропусками данных. Hacker News · Координация ИИ-агентов Исследование DPBench раскрывает ключи к эффективной координации агентов Учёные из Стэнфорда и MIT представили исследование DPBench, которое исследует структурные детерминанты координации между мультиагентными системами на основе больших языковых моделей (LLM). Исследование выявляет ключевые факторы, влияющие на эффективность взаимодействия агентов, включая архитектуру, механизмы коммуникации и стратегии принятия решений.

← Все материалы