Исследователи проанализировали, как 18 открытых языковых моделей представляют мифологические знания различных культур. Выяснилось, что модели уверенно распознают персонажей западной мифологии, таких как Зевс или Тор, но демонстрируют значительные пробелы в знаниях о славянских, финских, египетских или китайских традициях. Работа выявляет внутренние механизмы формирования культурных предпочтений и предвзятостей внутри архитектур нейросетей.

Авторы использовали параллельный набор данных, основанный на мотивах Томпсона, для отслеживания того, как модели кодируют и извлекают культурно-специфическую информацию. Анализ показал, что культурная осведомленность моделей не является равномерной: знания о менее представленных в обучающих выборках традициях часто остаются «зашифрованными» и недоступными для прямого вывода. Это указывает на то, что архитектурные особенности моделей не всегда позволяют эффективно декодировать нетипичные культурные концепты.

Результаты исследования подчеркивают проблему «западного центризма» в современных LLM. Даже при наличии знаний в весах модели, механизмы внимания и активации нейронов отдают приоритет доминирующим культурным нарративам. Понимание этих процессов необходимо для создания более инклюзивных систем, способных корректно работать с глобальным культурным контекстом без потери точности при переходе от одной традиции к другой.

Ключевые факты

  • В исследовании протестировано 18 открытых LLM, относящихся к 8 различным архитектурным семействам.
  • Модели показывают высокую надежность в идентификации персонажей греческой, римской и скандинавской мифологий.
  • Выявлена низкая консистентность ответов при запросах о славянской, финской, египетской и китайской мифологиях.
  • Использована методология отслеживания культурных паттернов на основе классификации мотивов Томпсона.
  • Установлено, что культурные знания присутствуют в моделях, но механизмы их декодирования смещены в сторону западных культурных доминант.