Hacker News · 21.06.2026 ·Инфраструктура для агентов

Запуск сторонних LLM в среде Claude Code через Cc-fleet

Инструмент Cc-fleet позволяет интегрировать различные языковые модели в рабочие процессы Claude Code. Решение выступает в роли прослойки, которая перенаправляет запросы агента к альтернативным LLM, обеспечивая совместимость с инфраструктурой, изначально ориентированной на модели Anthropic.

Система поддерживает работу с широким спектром моделей, доступных через API, что позволяет разработчикам выбирать наиболее подходящий инструмент для конкретных задач программирования. Использование Cc-fleet дает возможность гибко настраивать вычислительные ресурсы и оптимизировать расходы на инференс, сохраняя при этом привычный интерфейс взаимодействия с кодовой базой.

Проект решает задачу расширения функциональности агентных сред, позволяя использовать локальные или облачные модели в качестве исполнителей кода. Это упрощает интеграцию специализированных LLM в существующие пайплайны разработки без необходимости полной замены инструментов оркестрации.

Источник: Hacker News

Похожие материалы

Hacker News · Инфраструктура для агентов Автоматическая маршрутизация запросов для оптимизации стоимости и скорости LLM Компания Factory представила инструмент для автоматической маршрутизации запросов между различными языковыми моделями. Система в режиме реального времени анализирует входящие задачи и перенаправляет их на наиболее подходящую модель, исходя из заданных параметров стоимости и времени отклика. Такой подход позволяет компаниям снизить расходы на API, не жертвуя качеством ответов в критически важных сценариях. Hacker News · Оркестрация агентов Subagent-fleet: оркестрация подагентов на локальных машинах с Ollama Разработчики представили Subagent-fleet — инструмент для управления флотилиями подагентов на локальных машинах с использованием Ollama. Это решение позволяет распределять задачи между несколькими ИИ-агентами, работающими на разных устройствах, что может значительно ускорить обработку сложных запросов и улучшить масштабируемость системы. Hacker News · Оркестрация агентов Инструмент для автоматизации рабочих процессов в Claude Code Разработчики представили утилиту CWC, предназначенную для анализа истории взаимодействия с Claude Code и автоматического создания на её основе воспроизводимых агентских рабочих процессов. Инструмент сканирует логи сессий, выявляет повторяющиеся паттерны действий и преобразует их в структурированные воркфлоу, которые можно повторно использовать для решения аналогичных задач. Hacker News · Инфраструктура для агентов Масштабируемый инференс LLM на базе Ray Serve и vLLM Компания Anyscale представила обновленный подход к развертыванию больших языковых моделей в распределенных средах. Решение базируется на интеграции фреймворка Ray Serve с высокопроизводительным движком vLLM, что позволяет эффективно управлять нагрузкой при работе с LLM в кластерах Kubernetes, включая Google Kubernetes Engine (GKE). Hacker News · Инфраструктура для агентов Оптимизация затрат на ИИ через маршрутизацию задач между моделями Разработчики представили плагин для Claude Code, который внедряет систему интеллектуальной маршрутизации запросов. Инструмент анализирует сложность поступающих задач и автоматически перенаправляет простые операции на специализированные компактные языковые модели (SLM), оставляя ресурсоемкие процессы для более мощных систем. Hacker News · Инференс и железо Llama.cpp: локальный запуск LLM на C/C++ Llama.cpp — это проект, который позволяет запускать большие языковые модели (LLM) локально на устройствах с ограниченными ресурсами. Разработанный на C/C++, он обеспечивает высокую производительность и эффективность, что делает его привлекательным для разработчиков, работающих с ИИ-агентами. Hacker News · Память и RAG Как LLMs меняют работу инженеров Исследование компании Aha.io показывает, как языковые модели меняют подходы инженеров к разработке. По данным опроса, 78% инженеров используют LLMs для генерации кода, 65% — для отладки, а 52% — для проектирования архитектуры. Это существенный сдвиг в индустрии, который требует пересмотра процессов и инструментов. Hacker News · Оркестрация агентов FusionHarness: сервер для объединения нескольких LLM в систему Mixture-of-Agents FusionHarness представляет собой open-source решение для реализации архитектуры Mixture-of-Agents (MoA). Этот инструмент позволяет объединять несколько различных языковых моделей в единую систему, где каждая модель выполняет свою часть задачи, а итоговый ответ формируется на основе их совместной работы. Такой подход направлен на повышение качества генерации за счет использования сильных сторон разных архитектур и перекрестной проверки результатов. Hacker News · MCP и интеграции Интеграция ЛЛМ в OCaml как функция Разработчики из Recoil Research представили подход к интеграции больших языковых моделей (ЛЛМ) в OCaml, превращая их в обычные функции. Это позволяет использовать мощь ЛЛМ напрямую в коде, как если бы это были обычные функции, что значительно упрощает разработку ИИ-агентов и сервисов. Hacker News · Оркестрация агентов Как Flink интегрирует LLM в потоковую обработку данных В последней части серии статей о Flink, разработчик Катя Горшкова подробно разбирает интеграцию больших языковых моделей (LLM) с Apache Flink. Flink — это фреймворк для распределённой потоковой обработки данных, который может быть полезен для оркестрации ИИ-агентов, особенно в сценариях, требующих обработки больших объёмов данных в реальном времени.

← Все материалы