Разработчики представили обновление платформы для автоматизации программирования, добавив полноценную поддержку локальных LLM. Теперь пользователи могут запускать агентные системы для написания и отладки кода без передачи данных во внешние API, используя вычислительные мощности собственного оборудования. Это решение обеспечивает повышенную конфиденциальность и позволяет интегрировать специализированные модели для специфических задач разработки в рамках единого рабочего процесса.
Переход на локальный инференс в агентных средах становится критически важным для компаний, работающих с проприетарным кодом и строгими требованиями к безопасности данных. Платформа теперь поддерживает интеграцию с популярными локальными движками, что позволяет гибко настраивать контекстное окно и параметры генерации под конкретные задачи рефакторинга или написания тестов.
Использование локальных моделей устраняет зависимость от ограничений по количеству токенов и стоимости запросов к облачным провайдерам. Это открывает возможности для непрерывного анализа кодовой базы и автоматического выполнения агентных сценариев в фоновом режиме, что ранее было экономически нецелесообразным при использовании коммерческих моделей с оплатой за каждый вызов.
Ключевые факты
- Обновление версии 0.46 добавляет нативную поддержку локального запуска моделей для агентных задач.
- Реализована возможность выбора между различными локальными движками для оптимизации производительности.
- Интеграция позволяет использовать локальные модели для автоматизации написания, тестирования и отладки программного кода.
- Основной акцент сделан на обеспечении приватности данных при работе с закрытыми репозиториями.