Исследователи выявили критическую уязвимость в адаптивных Transformer-трекерах, используемых в беспилотных летательных аппаратах. Архитектура с динамической маршрутизацией, предназначенная для оптимизации вычислительных ресурсов, оказалась подвержена атакам, которые могут принудительно снижать точность слежения или полностью дестабилизировать работу системы. Это ставит под угрозу надежность автономных платформ, где баланс между эффективностью и безопасностью является приоритетным.
Адаптивные модели используют механизм динамического выбора путей вычислений в зависимости от сложности входных данных. Авторы работы продемонстрировали, что злоумышленники могут манипулировать входным сигналом таким образом, чтобы заставить модель выбирать «облегченные» пути обработки даже в критических ситуациях. Это приводит к резкому падению точности распознавания объектов, что делает систему уязвимой к обходу защиты или потере цели в реальном времени.
Проблема подчеркивает фундаментальный риск при внедрении оптимизированных ИИ-архитектур в критическую инфраструктуру. В отличие от статических моделей, адаптивные системы обладают непредсказуемым поведением при воздействии специально подготовленных помех. Исследование предлагает новые методы оценки устойчивости подобных архитектур, чтобы предотвратить эксплуатацию «эффективности» в ущерб безопасности автономных систем.
Ключевые факты
- Исследование сфокусировано на уязвимостях адаптивных Transformer-трекеров, применяемых в БПЛА для экономии вычислительной мощности.
- Атаки эксплуатируют механизм динамической маршрутизации, заставляя модель переключаться на менее точные вычислительные ветки.
- Выявленные уязвимости позволяют снизить эффективность слежения за объектами, что критично для автономных систем навигации.
- Работа подчеркивает необходимость пересмотра стандартов безопасности при проектировании энергоэффективных ИИ-моделей для робототехники.