Исследователи представили AirflowAttack — первый метод состязательных атак, направленный на мультимодальные модели (VLM), работающие с данными инфракрасного дистанционного зондирования. Метод использует физические свойства турбулентности тепловых потоков для создания искажений, которые остаются незаметными для стандартных систем фильтрации, но эффективно обманывают нейросети, критически важные для систем безопасности и мониторинга.
В основе атаки лежит генератор, который синтезирует возмущения, имитирующие реальные атмосферные искажения. В отличие от классических методов, основанных на добавлении цифрового шума в пиксели, этот подход эксплуатирует физическую природу инфракрасного излучения. Это делает атаку крайне опасной для систем, развернутых в полевых условиях, где тепловые потоки являются естественной частью окружающей среды.
Разработка подчеркивает уязвимость моделей компьютерного зрения, используемых в оборонных и охранных секторах. Поскольку инфракрасные изображения часто используются для обнаружения объектов в условиях плохой видимости или ночного времени, подобные методы манипуляции могут привести к критическим ошибкам в классификации целей или распознавании угроз, что требует пересмотра подходов к обучению моделей на устойчивость к физически обоснованным состязательным воздействиям.
Ключевые факты
- AirflowAttack — первая атака, использующая турбулентность тепловых потоков в качестве основы для состязательных возмущений.
- Метод ориентирован на Vision-Language Models (VLM), применяемые в задачах инфракрасного дистанционного зондирования.
- Генератор атак является легковесным, что позволяет проводить манипуляции в режиме, близком к реальному времени.
- Исследование выявило существенные пробелы в робастности современных моделей при работе с данными, полученными в специфических физических условиях.