Microsoft столкнулась с нехваткой вычислительных мощностей для поддержки AI-сервисов в GitHub и начала использовать облачные ресурсы AWS. Это решение связано с ростом нагрузки на серверы из-за увеличения числа пользователей и сложных вычислений, связанных с ИИ.
GitHub, который является частью Microsoft, активно развивает AI-функционал, включая Copilot — инструмент для автоматизации кодирования. Рост популярности таких сервисов привел к тому, что внутренние мощности компании оказались недостаточными для обеспечения стабильной работы.
Переход на AWS позволяет Microsoft масштабировать инфраструктуру и обеспечивать необходимые вычислительные ресурсы для AI-проектов. Это важный шаг, так как показывает, что даже крупные компании сталкиваются с проблемами масштабирования при работе с ИИ.
Для разработчиков ИИ-агентов этот пример демонстрирует важность гибкой инфраструктуры и использования облачных решений для обеспечения стабильной работы сервисов. Это особенно актуально для проектов, таких как Jarv, где требуется высокая производительность и надежность.