Исследователи обнаружили новую угрозу для ИИ-агентов, которая получила название agentjacking. В ходе атаки злоумышленники отправляют поддельные отчёты об ошибках в системы Claude Code и Cursor, заставляя агентов выполнять вредоносный код. Это демонстрирует уязвимость ИИ-агентов, которые могут быть использованы для выполнения несанкционированных действий.
Атака agentjacking работает следующим образом: злоумышленник отправляет поддельный отчёт об ошибке, который содержит вредоносный код. ИИ-агент, который анализирует отчёт, может выполнить этот код, что приводит к несанкционированным действиям. В случае с Claude Code и Cursor, агенты были вынуждены выполнять команды, которые могли бы привести к утечке данных или другим серьёзным последствиям.
Эта атака подчёркивает важность безопасности ИИ-агентов. Разработчики должны учитывать потенциальные угрозы и внедрять меры защиты, такие как проверка подлинности отчётов об ошибках и ограничение возможностей агентов. Также важно проводить регулярные аудиты безопасности и тестирование на уязвимости.
Для разработчиков ИИ-агентов, таких как Jarv, эта новость является важным напоминанием о необходимости обеспечения безопасности своих систем. Атаки agentjacking показывают, что злоумышленники могут использовать ИИ-агентов для выполнения вредоносных действий, и поэтому важно внедрять меры защиты на всех этапах разработки и эксплуатации.