Mistral AI представила Mistral Compute — инфраструктуру для локального запуска больших языковых моделей. Решение позволяет развернуть модели на собственных серверах или в облаке, обеспечивая контроль над данными и снижая зависимость от сторонних сервисов.
Mistral Compute поддерживает как собственные модели Mistral, так и другие популярные модели. Платформа оптимизирована для работы с высоконагруженными задачами и предоставляет инструменты для мониторинга и управления вычислительными ресурсами.
Компания подчеркивает, что Mistral Compute предназначена для предприятий и разработчиков, которым важна безопасность и гибкость. Решение включает в себя API для интеграции с существующими системами и поддерживает контейнеризацию для упрощения развертывания.
Mistral AI позиционирует Mistral Compute как часть экосистемы, которая включает в себя модели, инструменты для их использования и поддержку сообщества разработчиков. Платформа уже доступна для тестирования, а полноценный релиз запланирован на ближайшие месяцы.