Исследователи из безопасности обнаружили новую уязвимость в Microsoft 365 Copilot, которая позволяет злоумышленникам красть данные пользователей всего за один клик. Эта атака использует уязвимость в обработке URL-адресов, что позволяет злоумышленникам встраивать вредоносные ссылки в запросы к Copilot.
Когда пользователь кликает на такую ссылку, Copilot автоматически выполняет команду, которая может привести к утечке конфиденциальной информации. Например, злоумышленник может заставить Copilot отправить данные на внешний сервер или открыть доступ к конфиденциальным файлам.
Microsoft уже выпустила обновление, которое исправляет эту уязвимость. Однако этот инцидент подчеркивает важность безопасности ИИ-агентов, особенно тех, которые интегрированы в корпоративные системы. Для разработчиков ИИ-агентов это важный урок о необходимости тщательной проверки всех входных данных и использования механизмов защиты от вредоносных действий.
Эта уязвимость также показывает, как важно следить за последними исследованиями в области безопасности ИИ и применять лучшие практики для защиты данных пользователей. В будущем, по мере развития ИИ-агентов, такие уязвимости могут стать еще более распространенными, и разработчики должны быть готовы к ним.