Исследователь Хокон Малой обнаружил новый вектор атак типа prompt injection, позволяющий превращать документы Microsoft Word в самораспространяющихся ИИ-червей. Внедряя скрытые инструкции в файл, злоумышленник заставляет Copilot интерпретировать их как часть пользовательского запроса. Это приводит к автоматическому манипулированию содержимым документов и дальнейшему распространению вредоносного кода через систему обмена файлами.
Механизм атаки эксплуатирует доверие ИИ-ассистента к данным, которые он получает из открываемых пользователем файлов. Когда Copilot анализирует зараженный документ, он может выполнить скрытые команды, например, изменить текст, добавить новые вредоносные инструкции или отправить скомпрометированные данные на внешние ресурсы. Поскольку ассистент имеет доступ к контексту работы пользователя, такие действия могут оставаться незамеченными в течение длительного времени.
Данная уязвимость представляет серьезную угрозу для корпоративных сред, где Copilot активно используется для обработки внутренней документации. В отличие от классических вирусов, этот метод использует возможности генеративного ИИ для автоматической генерации и внедрения кода в новые документы, что делает процесс заражения динамическим и трудноуловимым для традиционных антивирусных решений, ориентированных на поиск статических сигнатур.
Ключевые факты
- Исследователь Хокон Малой продемонстрировал метод превращения документов в самораспространяющихся ИИ-червей.
- Атака основана на внедрении скрытых инструкций, которые Copilot для Word воспринимает как часть рабочего задания.
- Вредоносный код способен автоматически модифицировать документы и распространяться при их дальнейшем использовании другими сотрудниками.
- Уязвимость подчеркивает критические риски безопасности при интеграции LLM в офисные пакеты с доступом к корпоративным данным.