Исследователи из Wiz обнаружили уязвимость в платформе Hugging Face, которая позволяла злоумышленникам получать доступ к секретным ключам пользователей и выполнять произвольный код в изолированных средах (песочницах). Проблема была связана с конфигурацией инфраструктуры, что поставило под угрозу модели и данные разработчиков, использующих облачные сервисы платформы для развертывания и обучения нейросетей.
Инцидент затронул сервис Hugging Face Spaces, который позволяет пользователям запускать приложения на базе ИИ. Уязвимость давала возможность выйти за пределы контейнера, что открывало доступ к переменным окружения, содержащим токены доступа к сторонним сервисам, таким как OpenAI или AWS. Это подчеркивает риски, связанные с использованием общих облачных сред для запуска кода, работающего с конфиденциальными API-ключами.
Команда платформы оперативно устранила брешь, отозвала скомпрометированные токены и обновила политики безопасности. Тем не менее, эксперты отмечают, что подобные инциденты становятся критическими для всей экосистемы разработки ИИ, так как централизованные хабы моделей становятся привлекательными целями для атак на цепочки поставок программного обеспечения.
Ключевые факты
- Уязвимость была обнаружена исследователями из компании Wiz в рамках анализа безопасности облачных сред.
- Проблема затрагивала сервис Hugging Face Spaces, используемый для хостинга и запуска ИИ-приложений.
- Злоумышленники могли получить доступ к секретным ключам (API tokens) и выполнять код в инфраструктуре пользователей.
- Платформа Hugging Face провела принудительный сброс всех токенов, которые могли быть скомпрометированы в ходе инцидента.
- Инцидент классифицирован как риск нарушения безопасности цепочки поставок (supply chain attack) в сфере машинного обучения.