Исследователи представили методологию оценки справедливости генеративных моделей, фокусируясь на том, как именно ИИ распределяет демографические признаки в открытых запросах. Авторы критикуют текущие подходы, которые полагаются на заданные входные атрибуты, и предлагают новые критерии для обоснования того, какие именно демографические пропорции должны считаться эталонными при аудите результатов работы нейросетей.

Традиционные методы оценки предвзятости часто опираются на внешние статистические данные, такие как переписи населения, чтобы определить, насколько «справедливо» модель генерирует изображения или тексты. Однако авторы статьи указывают на методологическую проблему: не всегда очевидно, должны ли выходные данные модели в точности соответствовать реальным демографическим показателям общества или отражать иные нормативные цели. Это создает сложности при разработке универсальных бенчмарков для аудита ИИ.

В работе предлагается концепция обоснования целей генерации, которая позволяет разработчикам более гибко подходить к настройке моделей. Вместо слепого копирования статистики, предлагается учитывать контекст задачи и этические рамки, что критически важно для систем, работающих с генерацией контента, где требуется баланс между репрезентативностью и спецификой запроса пользователя.

Ключевые факты

  • Исследование анализирует разрыв между входными параметрами запроса и демографическим составом выходных данных.
  • Предложен новый подход к аудиту генеративных моделей, который ставит под сомнение использование фиксированных демографических квот.
  • Работа подчеркивает необходимость обоснования выбора «целевых» демографических групп при тестировании моделей на предвзятость.
  • Авторы доказывают, что существующие определения групповой справедливости недостаточно учитывают специфику открытых генеративных задач.