arXiv · 25.06.2026 ·Исследования и наука

Устойчивость мультиагентных систем к кибератакам и скрытой динамике лидеров

Исследователи представили математический метод обеспечения устойчивости гетерогенных линейных мультиагентных систем в условиях кибератак на исполнительные механизмы. Алгоритм позволяет ведомым агентам отслеживать траектории лидеров, даже если их динамика, скоростные ограничения и границы движения остаются скрытыми, а сеть подвергается внешнему воздействию, нарушающему целостность управления.

Работа фокусируется на сценариях, где агенты взаимодействуют через направленные топологии сетей. В таких условиях традиционные методы управления часто оказываются уязвимыми из-за непредсказуемого поведения лидеров и злонамеренных манипуляций входными сигналами. Предложенный подход гарантирует, что выходные сигналы всех агентов системы будут сходиться к выпуклой оболочке, образованной лидерами, минимизируя влияние ошибок, вызванных атаками.

Математическая модель учитывает как атаки, коррелирующие с состоянием системы, так и атаки на входные данные. Это позволяет создавать более надежные распределенные системы управления, способные сохранять работоспособность в условиях неопределенности и активного противодействия. Результаты исследования применимы для разработки автономных робототехнических систем и сетей датчиков, работающих в агрессивных или неконтролируемых средах.

Ключевые факты

Разработан метод обеспечения устойчивости для гетерогенных линейных мультиагентных систем.
Алгоритм эффективно работает при скрытых параметрах динамики лидеров и неизвестных границах их скоростей.
Модель учитывает комплексные кибератаки на исполнительные механизмы (actuator attacks), включая атаки, зависящие от состояния и входа системы.
Доказана сходимость ведомых агентов к траекториям лидеров в условиях направленных сетевых топологий.

Источник: arXiv

Обсудить с ИИ

Похожие материалы

arXiv · Машинное обучение Новый метод распознавания целей в мультиагентных системах Исследователи представили новый подход к распознаванию целей в мультиагентных средах, сочетающий обучение с подкреплением и метод ветвей и границ. Алгоритм позволяет эффективно определять состав команд и их намерения на основе анализа траекторий движения, решая проблему комбинаторного взрыва гипотез, характерную для сложных систем с большим количеством участников и динамическими задачами. arXiv · Машинное обучение Новый метод повышения устойчивости многоагентных систем в условиях неточных моделей Исследователи представили новый математический подход к решению проблемы расхождения данных между тренировочными симуляторами и реальной средой в многоагентном обучении с подкреплением (MARL). В реальных условиях разрыв между моделью и действительностью часто приводит к резкому падению производительности агентов, так как стратегическое взаимодействие между ними усиливает любые ошибки прогнозирования. Авторы работы предлагают использовать принципы дистрибутивной робастности для оптимизации стратегий. arXiv · Машинное обучение Мультиагентные системы для многокритериальной оптимизации в динамических средах Исследователи представили новый подход к решению задач оптимизации в вычислительных и сетевых системах с помощью мультиагентных систем. Традиционные методы обучения с подкреплением часто сводят сложные задачи к минимизации единого скалярного вознаграждения, используя штрафные коэффициенты для учета ограничений. Однако такой подход оказывается недостаточно гибким в динамических условиях, где требования к производительности и затратам постоянно меняются. arXiv · Безопасность и алайнмент Верификация вероятностных политик безопасности для ИИ-агентов Исследователи представили новый метод верификации, позволяющий контролировать поведение ИИ-агентов в сложных цифровых средах с учетом вероятностных факторов. Ранее существующие системы мониторинга в реальном времени опирались на детерминированные политики, выраженные на языке Datalog, что ограничивало их применение в условиях неопределенности. Новый подход расширяет возможности формальной верификации, позволяя задавать правила безопасности для сценариев, где действия агента могут приводить к различным исходам с разной степенью вероятности. arXiv · Инфраструктура для агентов Исследование надежности сетей ИИ-агентов Ученые из MIT и других ведущих университетов опубликовали исследование, посвященное надежности сетей ИИ-агентов. В работе рассматриваются системы, где несколько моделей взаимодействуют для решения задач, а не одна модель. Такие системы часто превосходят по эффективности одиночные модели, но их надежность остается недостаточно изученной. arXiv · Машинное обучение Укрепление киберфизических систем с помощью обучения с подкреплением Исследователи проанализировали эффективность контроллеров на базе обучения с подкреплением (Reinforcement Learning, RL) в нелинейных системах, подверженных внешним кибератакам. В работе рассматриваются сценарии с внедрением ложных данных и атаками типа «отказ в обслуживании» (DoS), которые представляют серьезную угрозу для критической инфраструктуры и автоматизированных производственных процессов. arXiv · Исследования и наука Новая математическая модель для анализа многоагентных систем Исследователи представили теоретическую базу для анализа сложных многоагентных систем, в которых действия отдельных участников напрямую влияют на общие наблюдаемые результаты. Работа описывает динамику систем с обратными связями, используя два ключевых параметра: «мощность» (power), определяющую степень влияния агента на коллективный исход, и «функции отклика» (response functions), характеризующие реакцию агента на изменение среды. arXiv · Безопасность и алайнмент Анализ защитных методов против автоматизированных атак на ИИ-агентов Исследователи представили анализ эффективности защитных стратегий против автоматизированных атак на агентные системы. Современные ИИ-агенты активно используют языковые модели для интерпретации инструкций, обработки внешних данных и взаимодействия с инструментами. Это расширяет поверхность атаки, позволяя злоумышленникам применять автоматизированные методы для масштабирования промпт-инъекций и подбора обходов ограничений безопасности. arXiv · Память и RAG Как улучшить надёжность ИИ-агентов в робототехнике Исследователи из MIT и других ведущих университетов предложили новый подход к улучшению надёжности ИИ-агентов в робототехнике. В своей работе, опубликованной на arXiv, они рассматривают проблему обнаружения аномалий в поведении роботов, управляемых генеративными моделями. arXiv · Исследования и наука Исследование эффективности лидерства в командах ИИ-агентов Исследователи проанализировали, при каких условиях централизованное управление повышает продуктивность групп из нескольких языковых моделей. Работа опирается на принципы командной психологии, согласно которым лидерство приносит пользу только в специфических ситуациях, тогда как автономные группы экспертов могут работать эффективнее без внешнего контроля.

← Все материалы