Масштабное исследование Rest of World выявило, что популярные генераторы изображений, такие как Midjourney, систематически воспроизводят и усиливают культурные и гендерные стереотипы. Анализ тысяч генераций показал, что модели склонны визуализировать определенные профессии и социальные роли через узкие шаблоны, игнорируя глобальное разнообразие и реальную демографическую картину мира в пользу западных стандартов.

В ходе эксперимента авторы вводили нейтральные промпты, описывающие людей в различных профессиональных контекстах — от генеральных директоров до уборщиков. Результаты продемонстрировали предвзятость алгоритмов: например, при запросе «генеральный директор» модель почти всегда выдавала изображения белых мужчин в костюмах, а при запросе «преступник» — людей с определенными этническими признаками. Эти искажения возникают из-за особенностей обучающих выборок, которые часто перенасыщены контентом из западных медиаисточников.

Проблема усугубляется тем, что пользователи воспринимают выдачу нейросетей как объективную репрезентацию реальности. Подобная «алгоритмическая предвзятость» не только ограничивает творческий потенциал инструментов, но и способствует закреплению вредных социальных установок в массовой культуре. Разработчики моделей пока не предложили эффективных механизмов дебайасинга, которые могли бы сбалансировать выдачу без потери качества генерации.

Ключевые факты

  • Исследователи проанализировали тысячи изображений, созданных по нейтральным текстовым запросам в Midjourney.
  • Модели демонстрируют устойчивую склонность к изображению профессий через гендерные и расовые стереотипы, накопленные в обучающих данных.
  • В 90% случаев при запросе «генеральный директор» нейросеть генерировала изображения мужчин, игнорируя женщин-руководителей.
  • Алгоритмы склонны к «вестернизации» контента, отображая быт, одежду и архитектуру преимущественно в американском или европейском стиле, даже если запрос не содержал географических уточнений.
  • Отсутствие репрезентативности в обучающих датасетах приводит к тому, что ИИ транслирует исторические предубеждения как универсальную норму.