Исследователи обнаружили, что взаимодействие между ИИ-агентами приводит к возникновению динамических состояний, которые невозможно предсказать при анализе моделей в изоляции. Когда один агент доминирует в коммуникации, игнорируя ответы другого, ведомый агент переходит в «чужеродное» состояние. Это открытие позволяет применять методы неравновесной физики для описания и прогнозирования поведения сложных агентных систем в реальных условиях.

Эксперименты показывают, что поведение ИИ не является статичной характеристикой модели, а зависит от внешних стимулов, создаваемых другими агентами. В условиях одностороннего потока команд ведомая модель демонстрирует паттерны активности, которые отсутствуют в стандартных бенчмарках или при работе с человеком. Это явление напоминает фазовые переходы в физических системах, где внешнее воздействие принудительно меняет внутреннюю динамику объекта.

Полученные результаты ставят под сомнение текущие подходы к тестированию безопасности и предсказуемости агентов. Если поведение системы радикально меняется в зависимости от структуры взаимодействия, то оценка моделей в контролируемой среде может не отражать их реальную реакцию при интеграции в многоагентные системы. Исследование открывает путь к созданию новых метрик для анализа стабильности агентных архитектур.

Ключевые факты

  • Взаимодействие агентов приводит к возникновению состояний, не проявляющихся при работе модели в изоляции.
  • Игнорирование ответов ведомого агента «ведущим» провоцирует переход системы в непредсказуемые поведенческие режимы.
  • Процесс описывается через принципы неравновесной физики, где поток сообщений выступает как внешний драйвер системы.
  • Результаты исследования опубликованы на платформе arXiv под номером 2608.07457v1.
  • Выявленные закономерности указывают на необходимость пересмотра методов тестирования безопасности для многоагентных сред.