Anthropic представила стратегию оптимизации расходов при работе с флагманской моделью Claude Fable 5. Вместо использования дорогостоящей модели для каждой задачи компания рекомендует применять её в роли «менеджера» или планировщика, который делегирует выполнение конкретных операций более доступной модели Claude Sonnet 5. Такой подход позволяет сохранить высокую эффективность при значительном снижении операционных затрат на инференс.

Данная архитектура, получившая название «Advisor» (советник), предполагает, что Fable 5 берет на себя высокоуровневое проектирование логики и декомпозицию сложных запросов. После этого Sonnet 5 выполняет рутинные этапы обработки данных. Тесты показывают, что подобная иерархическая структура позволяет достичь 92% производительности автономной работы Fable 5, при этом общие затраты на использование API сокращаются на 37%.

Переход к агентным паттернам, где тяжелые модели управляют легкими, становится ключевым трендом в разработке масштабируемых ИИ-систем. Это позволяет разработчикам балансировать между качеством ответов и стоимостью запросов, не жертвуя при этом сложностью решаемых задач. Использование специализированных моделей для разных этапов цепочки рассуждений минимизирует избыточное использование вычислительных мощностей.

Ключевые факты

  • Использование Claude Fable 5 в качестве планировщика в связке с Sonnet 5 обеспечивает 92% эффективности от уровня «сольной» работы Fable 5.
  • Стоимость реализации паттерна «Advisor» составляет 63% от затрат на прямое использование флагманской модели для всех задач.
  • Архитектура подразумевает делегирование исполнения конкретных подзадач более дешевой модели после того, как «менеджер» определил план действий.
  • Метод позволяет оптимизировать бюджеты при создании сложных агентных систем, требующих глубокого логического планирования.