Исследователи изучили, как наделение LLM-агентов специфическими личностными характеристиками меняет их поведение в классической игре «Разделяй или забирай» (Split or Steal). Эксперименты показали, что изменение промптов, задающих «персону», статистически значимо влияет на склонность агентов к кооперации или эгоистичным действиям, что открывает новые возможности для управления агентным поведением в многопользовательских системах.
В рамках работы тестировались различные модели, которым присваивались роли с разным уровнем альтруизма, агрессии или осторожности. Результаты демонстрируют, что ИИ-агенты не являются нейтральными исполнителями, а их стратегические решения в условиях конфликта интересов напрямую зависят от заданного «характера». Это подчеркивает важность проектирования системных промптов при создании автономных агентов, взаимодействующих с другими участниками в цифровой среде.
Данное исследование критически важно для понимания безопасности и предсказуемости агентных систем. Если поведение агента можно радикально изменить через смену «персоны», это создает как возможности для тонкой настройки взаимодействия, так и риски манипуляции в сценариях, где агенты должны следовать строгим протоколам сотрудничества или этическим нормам.
Ключевые факты
- Исследование сфокусировано на игре «Разделяй или забирай», моделирующей дилемму между сотрудничеством и предательством.
- Установлено, что вербальное описание личности агента (персона) является ключевым фактором, определяющим вероятность выбора стратегии «забрать» (steal).
- Анализ показал, что модели демонстрируют разную степень чувствительности к «персонам» в зависимости от архитектуры и базового обучения.
- Работа подчеркивает необходимость стандартизации методов управления поведением агентов для предотвращения нежелательных стратегических исходов в реальных бизнес-приложениях.