Компания Anthropic зафиксировала три инцидента безопасности, в ходе которых злоумышленники пытались скомпрометировать инфраструктуру разработки ИИ. Атаки схожи с нашумевшим взломом Hugging Face, где хакеры использовали уязвимости в конфигурациях для доступа к закрытым данным и моделям. Эти случаи подчеркивают критическую важность защиты пайплайнов машинного обучения и сред исполнения от несанкционированного вмешательства.
Анализ показал, что злоумышленники нацелены на кражу учетных данных и внедрение вредоносного кода непосредственно в процессы обучения или развертывания моделей. В отличие от атак на конечных пользователей, эти инциденты направлены на инфраструктурный уровень, что позволяет атакующим получать доступ к проприетарным весам моделей и конфиденциальным наборам данных, используемым для дообучения.
Эксперты отмечают, что подобные векторы атак становятся системной угрозой для всей индустрии ИИ. Поскольку компании всё чаще полагаются на сторонние платформы для хостинга моделей и совместной работы, безопасность цепочки поставок (supply chain security) выходит на первый план. Уязвимости в CI/CD пайплайнах и неправильно настроенные права доступа в облачных средах остаются основными точками входа для злоумышленников.
Ключевые факты
- Зафиксировано три отдельных инцидента, использующих методы, аналогичные взлому Hugging Face.
- Основная цель атак — получение доступа к закрытым весам моделей и данным для обучения через скомпрометированные учетные записи.
- Злоумышленники эксплуатируют уязвимости в конфигурациях инфраструктуры и процессах развертывания моделей.
- Инциденты подтверждают, что цепочки поставок ИИ-решений стали приоритетной целью для киберпреступников.