Hacker News · 16.06.2026 ·Исследования и наука

Новые рубрики для оценки RLVR в исследовании Complex-If and Beyond

Исследователи представили документ Complex-If and Beyond, в котором предложены экспертные рубрики для оценки RLVR (Reinforcement Learning from Human Feedback). Документ доступен в формате PDF и содержит подробные критерии для оценки качества моделей, обучаемых с использованием RLVR.

В работе рассматриваются сложные сценарии, где традиционные методы оценки могут быть недостаточно эффективными. Авторы предлагают новые рубрики, которые позволяют более точно измерять производительность моделей в различных условиях.

Исследование может быть полезным для разработчиков, работающих над улучшением алгоритмов RLVR, а также для исследователей, изучающих методы оценки качества моделей машинного обучения.

Документ доступен для скачивания по ссылке: https://cdn.prod.website-files.com/68dc970bd6e945ea3fb0f426/6a24113dce0f59637d14881a_complex_if.pdf

Источник: Hacker News

Похожие материалы

arXiv · Обучение и дообучение Новый метод обучения LLM через промежуточное RL Исследователи предложили новый подход к обучению языковых моделей (LLM) с использованием reinforcement learning (RL) на промежуточном этапе обучения. В статье, опубликованной на arXiv, авторы показывают, что традиционные методы RL с редкими наградами (sparse reward RL) сильно зависят от начальной подготовки модели. arXiv · Память и RAG ContextRL: контекст-осознанное обучение для улучшения работы ИИ-агентов Исследователи из MIT и других ведущих университетов представили новый метод ContextRL, который улучшает способность языковых моделей (LLM) работать с длинными и сложными контекстами. Проблема заключается в том, что традиционные LLM часто не могут выделить ключевые детали в объемных данных, будь то строка в логах или мелкий элемент на изображении. ContextRL использует методы подкрепляющего обучения (RL), чтобы улучшить долгосрочное рассуждение и работу с мультимодальными данными. arXiv · Оценка и бенчмарки Как аудит решений улучшает прозрачность оценки ИИ Исследователи из MIT и других ведущих университетов предложили новый подход к аудиту публичных оценок ИИ-моделей. В статье, опубликованной на arXiv, они утверждают, что текущие рейтинги ИИ часто воспринимаются как окончательные, но на самом деле они представляют собой выборочные временные ряды, искажённые правилами отчётности, пересмотром бенчмарков и пропусками данных. OpenAI News · Оценка и бенчмарки OpenAI представила гайдлайн для проверки ИИ от третьих сторон OpenAI выпустила руководство по проведению независимых оценок ИИ-систем. Документ охватывает ключевые аспекты: проверку возможностей моделей, их защищенность и достоверность результатов. Особое внимание уделено фронтирным системам, которые могут иметь значительное влияние на общество. The latest research from Google · Оценка и бенчмарки Как определить достаточное количество экспертов для оценки ИИ Google Research опубликовал исследование, посвящённое вопросу: сколько экспертов нужно для объективной оценки качества ИИ-моделей. В статье рассматриваются методы статистического анализа, которые позволяют определить минимальное количество рейтингов (оценок), необходимых для достижения надёжных результатов. Weaviate Blog · Память и RAG Как качество ретривала влияет на эффективность RAG-систем Исследователи из Weaviate (разработчики векторной БД) опубликовали анализ, посвящённый роли ретривала в RAG-системах. Они утверждают, что даже самые мощные языковые модели не смогут давать качественные ответы, если ретривал не обеспечивает актуальные и релевантные данные. Hugging Face - Blog · Память и RAG Ecom-RLVE: адаптивные среды для чат-ботов в e-commerce Исследователи представили Ecom-RLVE — фреймворк для создания адаптивных и проверяемых сред обучения для чат-ботов в сфере e-commerce. Это решение позволяет создавать динамические среды, которые могут адаптироваться к изменениям в данных и поведении пользователей, что критически важно для разработки ИИ-агентов, работающих в условиях высокой изменчивости. Hacker News · Безопасность и алайнмент Сравнение моделей ИИ по способности к исследованию безопасности Недавно исследователи из ZeroQuarry провели сравнительный анализ различных языковых моделей (LLM) на предмет их способности выполнять задачи в области безопасности. В исследовании участвовали модели от OpenAI, Mistral, Anthropic и других, которые тестировались на различных сценариях, связанных с выявлением уязвимостей, анализом кода и генерацией рекомендаций по защите. arXiv · Обучение и дообучение Новый метод для эффективного онлайн-обучения визуально-языковых агентов Исследователи предложили новый подход к онлайн-обучению визуально-языковых агентов (VLA) с использованием методов reinforcement learning (RL). В статье, опубликованной на arXiv, они описывают метод Hierarchical Advantage Weighting (HAW), который решает проблему редких и неинформативных сигналов обратной связи в процессе обучения. arXiv · Память и RAG Как улучшить надёжность ИИ-агентов в робототехнике Исследователи из MIT и других ведущих университетов предложили новый подход к улучшению надёжности ИИ-агентов в робототехнике. В своей работе, опубликованной на arXiv, они рассматривают проблему обнаружения аномалий в поведении роботов, управляемых генеративными моделями.

← Все материалы