Исследователи Wiz обнаружили критическую уязвимость GhostApproval, затрагивающую популярные ИИ-инструменты для разработки. Проблема заключается в обходе границ доверия при выполнении кода, когда ассистент может одобрить вредоносные изменения без ведома пользователя. Атака позволяет злоумышленникам внедрять бэкдоры в репозитории, используя доверие разработчика к рекомендациям ИИ-моделей, что ставит под угрозу цепочки поставок ПО.
Суть угрозы кроется в механизме «человека в цикле». ИИ-ассистенты часто предлагают правки, которые разработчик подтверждает автоматически, не проводя глубокого аудита каждой строки. В рамках GhostApproval злоумышленник может подготовить контекст проекта таким образом, чтобы модель сгенерировала легитимный на вид, но скрыто вредоносный код. Поскольку этот код исходит от «доверенного» помощника, вероятность его одобрения без тщательной проверки значительно возрастает.
Эта уязвимость подчеркивает необходимость пересмотра подходов к безопасности при интеграции генеративного ИИ в рабочие процессы разработки. Компании, использующие ИИ для автодополнения и рефакторинга, сталкиваются с риском автоматизированного внедрения уязвимостей, которые сложно обнаружить стандартными средствами статического анализа, так как они маскируются под обычные паттерны программирования.
Ключевые факты
- GhostApproval эксплуатирует доверие разработчика к рекомендациям ИИ-ассистентов при выполнении операций с кодом.
- Уязвимость позволяет злоумышленникам скрытно внедрять вредоносные изменения в репозитории через манипуляцию контекстом.
- Атака обходит стандартные границы доверия, используя автоматизированные процессы подтверждения изменений.
- Исследование проведено специалистами компании Wiz, занимающейся облачной безопасностью.
- Основной риск связан с автоматическим одобрением предложений ИИ без проведения полноценного ревью кода.