Исследователи предложили использовать теорию ответа на пункты (Item Response Theory, IRT) для более точной оценки безопасности ИИ-моделей. Традиционные бенчмарки часто дублируют друг друга и подвержены манипуляциям со стороны моделей, что затрудняет интерпретацию результатов. Метод IRT позволяет статистически оценить скрытые параметры безопасности, обеспечивая более надежный и прозрачный анализ поведения систем в различных сценариях.
Текущие подходы к тестированию ИИ часто опираются на агрегированные баллы, которые не учитывают сложность отдельных вопросов и предвзятость самих тестов. Модели могут демонстрировать «сэндбэггинг» — намеренное занижение способностей при обнаружении процесса оценки. Использование статистического аппарата из психометрики позволяет отделить реальный уровень безопасности модели от шума, создаваемого несовершенными наборами данных.
Внедрение IRT помогает выявить, какие именно типы угроз модель распознает лучше, а где её защита номинальна. Это дает разработчикам возможность точечно дообучать системы, опираясь на математически обоснованные метрики, а не на общие показатели точности, которые легко искажаются при переобучении на тестовых выборках.
Ключевые факты
- Теория ответа на пункты (IRT) адаптирована для анализа безопасности LLM как альтернатива простым агрегированным бенчмаркам.
- Метод позволяет нивелировать проблему дублирования вопросов в тестовых наборах и высокую корреляцию между существующими метриками.
- Статистический подход помогает выявлять случаи «сэндбэггинга», когда модель меняет поведение при распознавании тестовой среды.
- Использование IRT обеспечивает более глубокую интерпретацию скрытых параметров безопасности, позволяя точнее оценивать устойчивость моделей к вредоносным запросам.