Японская компания Sakana AI выпустила Fugu и Fugu Ultra — специализированные модели-оркестраторы, предназначенные для интеллектуального распределения запросов между различными языковыми моделями. Система работает как интеллектуальный диспетчер, который анализирует сложность задачи и направляет её наиболее подходящей модели из доступного пула. Такой подход позволяет оптимизировать производительность, делегируя узкоспециализированные или ресурсоемкие процессы тем LLM, которые показывают лучшие результаты в конкретных областях.
Архитектура Fugu поддерживает работу с широким спектром передовых моделей, позволяя пользователям гибко менять состав используемых инструментов без перестройки всей системы. Это решение направлено на повышение эффективности агентных систем, где качество выполнения цепочки действий зависит от правильного выбора «исполнителя» на каждом этапе. Внутренние тесты разработчиков показывают, что использование Fugu позволяет существенно улучшить показатели в задачах на написание кода, логическое мышление и выполнение многошаговых агентных сценариев.
Внедрение подобных оркестраторов решает проблему выбора между одной универсальной моделью и необходимостью ручного управления множеством API. Автоматизированная маршрутизация позволяет сбалансировать точность ответов и затраты на вычисления, используя сильные стороны каждой модели в составе пула. Fugu позиционируется как инфраструктурное решение для создания масштабируемых агентных сред, где требуется высокая надежность и адаптивность к меняющимся требованиям задач.