Исследователи обнаружили новый вектор атак, позволяющий ИИ-червям распространяться через документы в Microsoft Copilot для Word. Вредоносный код, внедренный в файл, использует возможности LLM для саморепликации и заражения новых пользователей при открытии документа. Это создает риски несанкционированного доступа к данным и автоматизированного распространения вредоносного контента внутри корпоративных сред, использующих ИИ-ассистентов для обработки документов.
Механизм атаки основан на «отравлении» контекста документа. Когда пользователь открывает зараженный файл, Copilot анализирует его содержимое и выполняет инструкции, заложенные злоумышленником. Если модель имеет доступ к функциям записи или отправки данных, червь может модифицировать другие документы или инициировать действия от имени пользователя, что приводит к цепной реакции заражения в рамках организации.
Данная угроза подчеркивает критическую важность изоляции сред выполнения ИИ и контроля за тем, какие действия модели могут совершать автоматически. Традиционные методы защиты от вирусов не учитывают семантическую природу LLM, которые интерпретируют вредоносные инструкции как обычные рабочие задачи, что делает стандартные антивирусные решения неэффективными против подобных атак.
Ключевые факты
- Вектор атаки использует способность Copilot интерпретировать и исполнять инструкции, содержащиеся в тексте документа.
- ИИ-червь способен к самораспространению, автоматически заражая новые файлы при взаимодействии с ними через Copilot.
- Уязвимость позволяет злоумышленникам обходить традиционные системы безопасности, так как вредоносный код маскируется под легитимные запросы пользователя.
- Исследование демонстрирует необходимость внедрения строгих политик доступа и «песочниц» для выполнения кода, генерируемого или интерпретируемого LLM в корпоративных приложениях.