arXiv · 03.08.2026 ·Оценка и бенчмарки

Новый метод Aggregate-then-Calibrate для объективной оценки ИИ-моделей

Исследователи представили метод Aggregate-then-Calibrate, решающий проблему субъективности при оценке ИИ-моделей человеком. Алгоритм объединяет разрозненные экспертные оценки с предсказаниями моделей, устраняя влияние неоднородной квалификации судей и различий в их шкалах. Это позволяет получать статистически обоснованные результаты в задачах, где отсутствует объективный эталон (ground truth), повышая надежность бенчмарков и систем принятия решений.

Традиционные подходы к оценке часто сталкиваются с дилеммой: либо полагаться исключительно на человеческое суждение, которое страдает от предвзятости и несогласованности, либо использовать автоматические метрики, которые опираются на неполные или неточные прокси-данные. Новый метод предлагает математически выверенный способ калибровки, который нормализует оценки разных экспертов, приводя их к единому знаменателю.

Технология особенно актуальна для сложных задач, таких как оценка качества генеративного контента, этическая экспертиза моделей или анализ логических рассуждений, где нет однозначного «правильного» ответа. Использование теоретических гарантий позволяет минимизировать шум в данных и сделать процесс оценки более прозрачным и воспроизводимым в корпоративных и исследовательских средах.

Ключевые факты

Метод Aggregate-then-Calibrate устраняет систематические ошибки, возникающие из-за разного уровня экспертизы участников оценки.
Алгоритм обеспечивает теоретические гарантии точности, что отличает его от эвристических методов усреднения баллов.
Подход позволяет эффективно работать в условиях отсутствия верифицируемого ground truth, что критично для субъективных задач.
Разработка направлена на стандартизацию оценки моделей в сценариях, где человеческий фактор является основным источником данных.

Источник: arXiv

Обсудить с ИИ

Похожие материалы

Hacker News · Оценка и бенчмарки Новые методы повышения точности LLM как судей в оценке моделей Исследователи представили усовершенствованные подходы к использованию LLM в качестве «судей» для автоматизированной оценки качества ответов других моделей. Авторы статьи систематизировали методы минимизации предвзятости и повышения корреляции оценок ИИ с человеческими предпочтениями, предложив новые стратегии промптинга и калибровки, которые позволяют значительно точнее определять качество генерации в сложных задачах без привлечения экспертов-людей. arXiv · Машинное обучение Новый метод достижения мульти-калибровки в предсказательных моделях Исследователи представили новый подход к достижению мульти-калибровки (multicalibration) в предсказательных моделях. Мульти-калибровка гарантирует, что прогнозы модели остаются несмещенными не только в среднем, но и при рассмотрении различных подгрупп данных, определенных заданными весовыми функциями. Это свойство является критически важным для обеспечения надежности и справедливости алгоритмов в задачах, где ошибки модели могут иметь неравномерные последствия для разных категорий пользователей. arXiv · Безопасность и алайнмент Inverse Constitutional AI: новый метод интерпретируемого алайнмента Исследователи представили метод Inverse Constitutional AI (ICAI), который позволяет извлекать логику человеческих предпочтений из оценок моделей. Вместо простого выбора между вариантами, система анализирует скрытые критерии и формулирует их в виде понятных принципов на естественном языке. Это повышает прозрачность процесса алайнмента, делая процесс принятия решений ИИ более предсказуемым и обоснованным. arXiv · Оценка и бенчмарки Новый подход к оценке креативности ИИ через анализ разногласий экспертов Исследователи представили The Human Creativity Benchmark — методологию оценки генеративных моделей, которая учитывает субъективность творческих задач. В отличие от стандартных бенчмарков, где разногласия экспертов считаются ошибкой измерения, новый подход рассматривает их как ценный сигнал. Это позволяет оценивать ИИ не только по следованию общим стандартам, но и по способности предлагать уникальные, вариативные решения. arXiv · Машинное обучение Калибровка моделей Mixture-of-Experts при сдвиге распределения данных Исследователи представили новый подход к калибровке архитектур Mixture-of-Experts (MoE), направленный на повышение надежности вероятностных прогнозов моделей. Проблема калибровки заключается в том, чтобы предсказанная моделью уверенность соответствовала реальной частоте правильных ответов. В условиях, когда данные на этапе эксплуатации отличаются от обучающей выборки — так называемый сдвиг распределения — точность и доверие к выходным вероятностям нейросетей часто снижаются. arXiv · Безопасность и алайнмент Новый метод верификации ИИ через интерактивные доказательства Исследователи представили метод повышения безопасности ИИ через систему «двойных эффективных интерактивных доказательств». Подход позволяет слабому верификатору (человеку) эффективно проверять ответы мощных моделей, используя формат дебатов между двумя ИИ-агентами. Это сокращает вычислительные затраты и время, необходимое для подтверждения корректности сложных выводов, минимизируя риск галлюцинаций или предвзятых ответов в критически важных задачах. Hugging Face - Blog · Оценка и бенчмарки Новый подход к оценке агентных способностей открытых моделей Hugging Face представила методологию для оценки того, насколько эффективно языковые модели справляются с использованием внешних инструментов. В отличие от стандартных тестов на логику или знание фактов, новый подход фокусируется на способности модели вызывать функции, интерпретировать ответы API и корректировать свои действия в рамках многошаговых задач. Это позволяет разработчикам точнее определять, какая модель лучше подходит для создания автономных агентов. Hacker News · Оценка и бенчмарки Модель оценки видимости ИИ: пять факторов доказательности Исследователи представили модель AI Visibility Evidence, систематизирующую подходы к оценке надежности ИИ-систем. Методология выделяет пять ключевых факторов, ранжированных по уровню доказательности, что позволяет компаниям объективно измерять прозрачность и обоснованность работы своих моделей. Система помогает стандартизировать отчетность и снизить риски, связанные с «черными ящиками» в корпоративных ИИ-решениях. arXiv · Машинное обучение Новый метод обучения языковых моделей с комбинированием верифицируемых наград и человеческих предпочтений Исследователи представили метод обучения языковых моделей, объединяющий RLVR (обучение с подкреплением на основе верифицируемых наград) и человеческие демонстрации. Подход позволяет оптимизировать модели не только по объективным метрикам, таким как корректность кода или математических вычислений, но и учитывать субъективные аспекты качества текста, включая стиль, структуру и логическую связность, которые ранее игнорировались традиционными алгоритмами. Hacker News · Оценка и бенчмарки Метод Peer-Probing для оценки знаний LLM через взаимное тестирование Исследователи представили метод Peer-Probing — масштабируемый подход к оценке моделей, при котором одна LLM выступает в роли «экзаменатора» для другой. Система позволяет выявлять пробелы в знаниях моделей без использования эталонных наборов данных, созданных человеком. Метод эффективно определяет, какие факты известны одной модели, но остаются неизвестными для другой, что упрощает сравнительный анализ архитектур.

← Все материалы