arXiv · 12.06.2026 ·Многомодальные ИИ-агенты и RLVR

CORA: метод для устранения разрыва между мышлением и ответом в многомодальных ИИ-агентах

Исследователи из MIT и других ведущих университетов представили метод CORA (Consistency-Oriented Reasoning Alignment), который решает проблему несоответствия между процессом рассуждений и конечным ответом в многомодальных системах с подкрепляющим обучением и проверяемыми вознаграждениями (RLVR).

Многомодальные ИИ-агенты, способные обрабатывать текст, изображения и другие типы данных, становятся всё более востребованными. Однако существующие подходы к RLVR часто фокусируются на улучшении визуального покрытия и снижении визуальных галлюцинаций, игнорируя семантическую несоответствие между логикой рассуждений и итоговым выводом.

CORA предлагает механизм выравнивания рассуждений, который обеспечивает согласованность между промежуточными шагами и конечным ответом. Это особенно важно для агентов, работающих с визуальными данными, где ошибки в интерпретации могут привести к неверным выводам. Метод был протестирован на нескольких бенчмарках и показал значительное улучшение по сравнению с базовыми моделями.

Для разработчиков ИИ-агентов, таких как Jarv, этот подход может стать ключевым инструментом для повышения точности и надежности многомодальных систем. CORA демонстрирует, как можно улучшить качество рассуждений, что критически важно для агентов, работающих с комплексными задачами, требующими анализа различных типов данных.

Источник: arXiv

Похожие материалы

arXiv · Контекст-осознанное обучение для ИИ-агентов ContextRL: контекст-осознанное обучение для улучшения работы ИИ-агентов Исследователи из MIT и других ведущих университетов представили новый метод ContextRL, который улучшает способность языковых моделей (LLM) работать с длинными и сложными контекстами. Проблема заключается в том, что традиционные LLM часто не могут выделить ключевые детали в объемных данных, будь то строка в логах или мелкий элемент на изображении. ContextRL использует методы подкрепляющего обучения (RL), чтобы улучшить долгосрочное рассуждение и работу с мультимодальными данными. arXiv · RAG и визуальные агенты Как RAG помогает бороться с галлюцинациями в мультимодальных моделях Исследователи из MIT и других ведущих университетов предложили новый подход к снижению визуальных галлюцинаций в мультимодальных языковых моделях (MLLMs). Эти системы, способные обрабатывать как текстовые, так и визуальные данные, часто демонстрируют уверенность в своих ответах, даже когда визуальные данные слабые или неоднозначные. Это приводит к так называемым "галлюцинациям" — выводам, не соответствующим реальности. arXiv · Оркестрация ИИ-агентов OrchRM: самонастраиваемая оркестрация для ИИ-агентов Исследователи предложили OrchRM — фреймворк для самонастраиваемой оркестрации ИИ-агентов. Проблема в том, что традиционные подходы требуют ручного аннотирования и дорогостоящих вычислений. OrchRM решает это, используя самонастраиваемую модель вознаграждений, которая оценивает качество оркестрации без участия человека. arXiv · RAG и аналитическое мышление Как RAG помогает ИИ-агентам решать сложные задачи через аналогии Исследователи из MIT и Google Research предложили новый подход к улучшению способности языковых моделей решать сложные задачи через аналогии. В работе, опубликованной на arXiv, они демонстрируют, как Retrieval-Augmented Generation (RAG) может быть адаптирован для более эффективного решения задач, требующих нестандартного мышления. Hacker News · Оркестрация и разрешение противоречий Универсальный фреймворк для разрешения противоречий в ИИ-агентах Исследователи представили новый фреймворк для разрешения противоречий в различных доменах, что может стать важным инструментом для разработки ИИ-агентов. Фреймворк позволяет анализировать и устранять противоречия в данных, что особенно актуально для агентов, работающих с разнородными источниками информации. arXiv · Многозадачные ИИ-агенты Новый метод для координации агентов с разными целями Исследователи из MIT и Университета Карнеги-Меллона представили новый подход к обучению ИИ-агентов в условиях многозадачности и конфликтов целей. В статье на arXiv они описывают Preference Coordinated Multi-agent Policy Optimization (PCMA) — метод, который позволяет агентам координировать свои действия даже при наличии противоречивых целей и различий в наблюдениях и ролях. arXiv · Диагностика ошибок в LLM Новый метод обнаружения ошибок в цепочках рассуждений LLM Исследователи из MIT и Университета Карнеги-Меллона предложили новый подход к выявлению ошибок в цепочках рассуждений языковых моделей (LLM) без использования меток. Их метод, основанный на операдной теории, позволяет обнаруживать несоответствия в логических цепочках, которые модели строят при решении сложных задач. arXiv · Оркестрация ИИ-агентов Новый подход к маршрутизации множества ИИ-агентов Исследователи из Университета Карнеги-Меллон представили новую работу, посвящённую компиляционным методам в задачах маршрутизации множества агентов (MAPF). В отличие от классических подходов, где все агенты должны достичь заданных целей без столкновений, авторы рассматривают варианты с разными требованиями к агентам. arXiv · Математические основы для агентов Операды для композиционного рассуждения в ИИ-агентах Исследователи из MIT и Университета Ватерлоо предложили использовать операды — математическую структуру, моделирующую операции с несколькими входами и одним выходом, для формализации композиционного рассуждения в языковых моделях. В работе показано, как операды могут служить основой для разложения сложных запросов на подзапросы и их последующей композиции. Это особенно важно для ИИ-агентов, где точность и логическая последовательность ответов критичны. Hugging Face - Blog · Оценка и улучшение ИИ-агентов VAKRA: новый бенчмарк для тестирования ИИ-агентов Исследователи из IBM Research представили VAKRA — новый бенчмарк для оценки способностей ИИ-агентов к логическому мышлению, использованию инструментов и обработке ошибок. В отличие от существующих тестов, VAKRA фокусируется на комплексных сценариях, требующих от агентов не только генерации текста, но и выполнения последовательных действий с анализом промежуточных результатов.

← Все материалы