Relay — это open-source агент для написания кода, спроектированный для интеграции с менее распространенными и китайскими LLM-провайдерами. Инструмент предоставляет унифицированный интерфейс для взаимодействия с различными моделями, позволяя разработчикам использовать специфические API в рамках агентных рабочих процессов, ориентированных на автоматизацию программирования и управление репозиториями.
Проект решает проблему ограниченной поддержки альтернативных моделей в популярных агентных фреймворках. Relay выступает в роли прослойки, которая стандартизирует запросы к различным API, обеспечивая совместимость с моделями, которые часто остаются за рамками экосистем OpenAI или Anthropic. Это расширяет возможности выбора инфраструктуры для инференса, позволяя разработчикам подключать локальные или специализированные облачные решения без переписывания кодовой базы агента.
Архитектура решения ориентирована на гибкость и простоту развертывания. Агент поддерживает базовые функции управления файловой системой и выполнения команд, необходимых для полноценной разработки. Использование Relay позволяет интегрировать модели, оптимизированные под специфические языки программирования или региональные требования, в единый пайплайн разработки, сохраняя при этом привычный агентный функционал.
Ключевые факты
- Relay поддерживает интеграцию с широким спектром LLM-провайдеров, включая китайские модели, не представленные в стандартных библиотеках.
- Инструмент является open-source проектом, доступным для самостоятельного развертывания и модификации.
- Агент включает функционал для автоматизированного написания кода, работы с файлами и выполнения системных команд.
- Проект ориентирован на разработчиков, нуждающихся в независимости от крупных западных поставщиков моделей при построении агентных систем.