arXiv · 18.06.2026 ·Машинное обучение

Новый подход к устранению предвзятости в моделях машинного обучения

Исследователи представили методологию борьбы с предвзятостью в алгоритмах, которая учитывает пересечение нескольких защищаемых атрибутов, таких как раса и гендер. Традиционные методы часто не справляются с ситуациями, когда дискриминация проявляется только при сочетании нескольких факторов, что приводит к снижению точности моделей для определенных групп населения. Основная проблема заключается в нехватке репрезентативных данных для таких подгрупп и отсутствии четких математических метрик для оценки справедливости.

Авторы работы предложили новый подход, основанный на введении ограничений по охвату данных (coverage constraints). Этот метод позволяет количественно измерить уровень предвзятости и сбалансировать обучающую выборку без критической потери общей производительности системы. В статье анализируется «цена справедливости» — компромисс между точностью предсказаний и соблюдением этических норм, который неизбежно возникает при попытке сделать модель более инклюзивной.

Разработанный алгоритм позволяет разработчикам точнее настраивать модели, минимизируя дискриминационные исходы в задачах классификации и принятия решений. Исследование подчеркивает важность систематического подхода к подготовке данных и оценке качества моделей на этапе обучения, что особенно актуально для систем, работающих с персональными данными и влияющих на жизнь людей.

Источник: arXiv

Похожие материалы

arXiv · Машинное обучение Новый метод оценки обобщающей способности моделей через PAC-Bayes Исследователи представили новый подход к дерандомизации PAC-Bayes оценок для функций потерь с высокой степенью гладкости. Традиционные методы оценки обобщающей способности моделей часто опираются на вероятностные предсказатели, что затрудняет их прямое применение к детерминированным алгоритмам. Авторы работы предлагают математический аппарат, позволяющий переносить теоретические гарантии с ансамблей типа Gibbs на конкретные детерминированные модели, используя свойства гладкости функции потерь и класса предсказателей. arXiv · Машинное обучение Новый метод обучения мультимодальных моделей через разделение восприятия и рассуждения Исследователи представили метод обучения мультимодальных моделей, который решает проблему «коротких путей» при использовании самодистилляции. Традиционный подход, при котором модель обучается на собственных результатах с опорой на эталонные данные, часто приводит к тому, что мультимодальные системы игнорируют визуальный контекст, полагаясь исключительно на текстовые подсказки. Новый алгоритм разделяет процессы восприятия изображения и логического рассуждения, что заставляет модель учитывать визуальные признаки как равноправный источник информации. arXiv · Безопасность и алайнмент Новый подход к оценке приватности данных через предсказуемость Исследователи представили концепцию «приватности через предсказуемость» (privacy via predictability), которая предлагает альтернативу традиционной дифференциальной приватности (DP). В отличие от классических методов, ориентированных на защиту от «худшего сценария» и часто снижающих точность моделей, новый подход позволяет более гибко настраивать баланс между защитой данных и полезностью алгоритмов. Метод учитывает конкретные знания злоумышленника о наборе данных, что делает оценку рисков более точной и менее затратной для производительности систем. arXiv · Машинное обучение Новый метод достижения мульти-калибровки в предсказательных моделях Исследователи представили новый подход к достижению мульти-калибровки (multicalibration) в предсказательных моделях. Мульти-калибровка гарантирует, что прогнозы модели остаются несмещенными не только в среднем, но и при рассмотрении различных подгрупп данных, определенных заданными весовыми функциями. Это свойство является критически важным для обеспечения надежности и справедливости алгоритмов в задачах, где ошибки модели могут иметь неравномерные последствия для разных категорий пользователей. arXiv · Оценка и бенчмарки Новый метод борьбы с предвзятостью LLM-судей при оценке качества ответов Исследователи представили новый подход к оценке больших языковых моделей, использующих другие LLM в качестве «судей». Текущие системы автоматической оценки часто страдают от систематических искажений, не связанных с качеством контента. Наиболее выраженной проблемой является «предвзятость к многословию»: модели склонны завышать оценки длинным ответам, даже если они менее точны или информативны, чем краткие варианты. arXiv · Исследования и наука Метод разрешения конфликтов знаний в LLM при работе с внешними данными Исследователи представили новый подход к решению проблемы противоречий между внутренними параметрическими знаниями языковых моделей и информацией, поступающей из внешнего контекста. В современных системах, использующих RAG или длинные промпты, модель часто сталкивается с ситуацией, когда данные в запросе пользователя противоречат тому, что было «выучено» моделью в процессе обучения. Это приводит к галлюцинациям или снижению точности ответов, так как модель не может эффективно приоритизировать источники данных. arXiv · Машинное обучение Метод MAST для точечного удаления нежелательных навыков рассуждения в LLM Исследователи представили метод MAST (Mechanism-Aligned Selective Targeting), предназначенный для избирательного удаления специфических паттернов рассуждения, привитых моделям через обучение с подкреплением (RLVR). Традиционные подходы к «забыванию» (unlearning) часто приводят к деградации общих способностей модели из-за полнопараметрических обновлений. Новый метод позволяет изолировать и корректировать только те веса, которые отвечают за конкретные логические цепочки, минимизируя побочный ущерб для базовых знаний модели. arXiv · Оценка и бенчмарки Исследование StylisticBias: как визуальные стили влияют на предвзятость мультимодальных ИИ Исследователи представили бенчмарк StylisticBias, предназначенный для анализа того, как визуальные признаки на изображениях провоцируют социальные предубеждения в мультимодальных больших языковых моделях (MLLM). В отличие от предыдущих подходов, которые сравнивали реакции моделей на разных людей, новый метод изолирует конкретные визуальные стилистические сигналы, такие как одежда, прическа или аксессуары, сохраняя при этом идентичность субъекта неизменной. arXiv · Модели и релизы Почему самоулучшающиеся модели могут деградировать на новых задачах Исследователи из Arxiv выявили проблему в популярном подходе к самоулучшению визуально-языковых моделей (VLM), основанном на DPO (Direct Preference Optimization). В таких системах «верфикатор» оценивает генерации модели, а на основе лучших и худших примеров происходит обучение. Авторы показали, что этот метод может привести к деградации модели на новых задачах, несмотря на улучшение на обучающих данных. arXiv · Безопасность и алайнмент Исследование влияния примеров на поведение безопасных LLM Исследователи проанализировали, как модели с настроенными механизмами безопасности реагируют на смешанные примеры в контекстном обучении. В ходе эксперимента в промпты добавляли как безобидные диалоги, так и демонстрации выполнения вредоносных запросов. Цель работы — понять, как именно нейросети интерпретируют противоречивые инструкции и в какой момент «безопасное» поведение начинает уступать место выполнению опасных команд.

← Все материалы