Hugging Face представила интеграцию с платформой SkyPilot, позволяющую запускать вычислительные задачи в любом облаке с использованием данных из хранилищ Hugging Face без оплаты исходящего трафика (egress fees). Это решение упрощает масштабирование обучения и инференса моделей, устраняя барьеры при переносе данных между облачными провайдерами и инфраструктурой Hugging Face.
Ранее передача больших наборов данных или весов моделей из облачных хранилищ в вычислительные кластеры приводила к значительным расходам. Новая интеграция позволяет SkyPilot автоматически монтировать репозитории Hugging Face как локальные директории. В результате вычислительные узлы получают доступ к данным напрямую, минимизируя задержки и исключая скрытые платежи за сетевой трафик, которые часто составляют существенную часть бюджета при работе с крупными LLM.
Система поддерживает работу с различными облачными провайдерами, включая AWS, GCP и Azure. Пользователи могут запускать задачи через CLI SkyPilot, указывая репозиторий Hugging Face в качестве источника данных. Это упрощает создание воспроизводимых пайплайнов, где инфраструктура для вычислений отделена от хранения данных, что критически важно для эффективного управления ресурсами при разработке агентных систем и дообучении моделей.
Ключевые факты
- Интеграция устраняет затраты на исходящий трафик (egress fees) при передаче данных между Hugging Face и облачными инстансами.
- SkyPilot позволяет автоматически монтировать репозитории Hugging Face как файловую систему на вычислительных узлах.
- Поддерживаются основные облачные провайдеры: AWS, Google Cloud Platform и Microsoft Azure.
- Решение ориентировано на снижение операционных расходов при обучении моделей и запуске инференса в распределенных средах.
- Инструмент упрощает настройку инфраструктуры, позволяя использовать единый интерфейс для управления ресурсами в разных облаках.