Исследователи представили проект Digital Pantheon, направленный на моделирование процессов формирования политических коалиций с помощью LLM-агентов. Авторы отмечают, что текущие методы RLHF, ориентированные на нейтральность и полезность, мешают моделям демонстрировать устойчивое партийное поведение. Новый подход позволяет изучать сложные переговоры, где участники руководствуются как конкретными политическими целями, так и глубокими идеологическими убеждениями, что открывает новые возможности для вычислительной политологии.

В рамках работы была разработана методология, позволяющая агентам сохранять идеологическую последовательность в ходе многосторонних переговоров. Традиционные модели при попытке симулировать политический дискурс часто стремятся к консенсусу или уклоняются от острых углов из-за встроенных ограничений безопасности. Исследователи предложили архитектурные решения, которые позволяют агентам придерживаться заданных партийных платформ, не нарушая при этом логику ведения диалога и стратегического взаимодействия.

Результаты эксперимента показывают, что использование специализированных промптов и системных инструкций позволяет преодолеть «нейтральный уклон» моделей. Это дает возможность проводить масштабные симуляции политических процессов, анализировать устойчивость коалиций и прогнозировать исходы переговоров в различных сценариях. Данный метод может быть использован для аудита политических стратегий и изучения динамики принятия решений в условиях конфликтующих интересов.

Ключевые факты

  • Проект Digital Pantheon фокусируется на преодолении ограничений RLHF при моделировании идеологически окрашенного поведения.
  • Исследование демонстрирует, что LLM способны поддерживать устойчивую партийную позицию при правильной настройке системных промптов.
  • Методология позволяет проводить вычислительный анализ коалиционных переговоров, учитывая как прагматические цели, так и идеологические установки.
  • Работа направлена на развитие вычислительной политологии как инструмента для симуляции и аудита сложных общественных процессов.