Исследователи представили систематизацию атак на уровне протоколов в агентских системах электронной коммерции. Авторы классифицировали векторы угроз, возникающие при взаимодействии автономных агентов, и предложили методы защиты от манипуляций, направленных на подмену транзакций и несанкционированное использование ресурсов. Работа подчеркивает критические риски безопасности в архитектурах, где агенты делегируют финансовые операции сторонним сервисам.
В основе исследования лежит анализ того, как злоумышленники могут эксплуатировать логику взаимодействия между агентом-покупателем и агентом-продавцом. В отличие от традиционных атак на веб-приложения, здесь основной упор делается на «отравление» контекста и манипуляцию параметрами API, которые агенты интерпретируют как легитимные команды. Это создает угрозы для автоматизированных цепочек поставок и систем динамического ценообразования.
Авторы предлагают концепцию «защищенного протокола взаимодействия», который включает механизмы верификации намерений агента и строгие ограничения на доступ к платежным шлюзам. Предложенные методы позволяют минимизировать риск «агентского дрейфа», при котором модель начинает совершать действия, выходящие за рамки заданных бизнес-целей, под влиянием специально сформированных входных данных от других участников сети.
Ключевые факты
- Разработана новая таксономия атак, разделяющая угрозы на манипуляцию ценообразованием, перехват транзакций и инъекции в агентские API.
- Предложен фреймворк защиты, основанный на протоколе строгой верификации намерений (Intent Verification Protocol).
- Исследование охватывает сценарии взаимодействия между разнородными агентскими системами, использующими различные LLM для принятия решений.
- Выявлено, что текущие стандарты API для агентов не содержат достаточных уровней изоляции для предотвращения атак типа «человек посередине» в контексте автономных покупок.