Компания CrowdStrike опубликовала отчет о новых методах атак группы Sandworm на цепочки поставок ИИ-инструментов. Злоумышленники используют уязвимости в инфраструктуре разработки для внедрения вредоносного кода в рабочие процессы машинного обучения. Исследование подчеркивает критическую необходимость защиты сред разработки и контроля за зависимостями при создании и развертывании агентных систем и моделей.
Аналитики отмечают, что фокус атак смещается с традиционных векторов на специфические компоненты ИИ-стека. В частности, под угрозой оказываются библиотеки для работы с данными, среды для обучения моделей и инструменты оркестрации. Злоумышленники стремятся скомпрометировать доверенные репозитории, чтобы внедрить бэкдоры, которые активируются на этапе инференса или дообучения, что позволяет скрытно манипулировать результатами работы систем.
Для противодействия таким угрозам эксперты рекомендуют внедрять строгий контроль версий, проверку целостности всех используемых библиотек и изоляцию сред, где происходит обработка чувствительных данных. Особое внимание уделяется мониторингу аномалий в поведении моделей, которые могут свидетельствовать о несанкционированном доступе к весам или обучающим выборкам.
Ключевые факты
- Группа Sandworm активно эксплуатирует уязвимости в цепочках поставок ПО, адаптируя их под специфику ИИ-инструментария.
- Основными целями атак становятся библиотеки для обработки данных и среды разработки, используемые для создания ИИ-решений.
- Вредоносный код может быть внедрен на этапе обучения, что делает его крайне сложным для обнаружения стандартными средствами защиты.
- Рекомендуется внедрение многоуровневой проверки зависимостей и мониторинг целостности моделей на всех этапах жизненного цикла.