Исследователи из Стэнфорда представили TRACE — систему обучения ИИ-агентов, которая превращает повторяющиеся ошибки в специализированные тренировочные среды. Система анализирует траектории действий агента, выявляет пробелы в навыках, создает для них синтетические задачи с подкреплением и обучает отдельные LoRA-адаптеры. Это позволяет агентам динамически подключать нужные экспертные модули для решения сложных задач, значительно повышая точность выполнения операций.
Традиционные методы обучения агентов часто сталкиваются с проблемой «забывания» или неспособности справиться с узкими сценариями, где требуются специфические навыки. TRACE решает эту проблему, декомпозируя сложные процессы на атомарные способности. Вместо того чтобы переобучать всю модель, система создает библиотеку навыков, которые активируются в зависимости от контекста задачи. Такой модульный подход позволяет агенту эффективно адаптироваться к новым условиям без потери общей производительности.
Результаты тестирования показывают существенный прирост эффективности в сложных агентных бенчмарках. Использование TRACE позволило достичь 73,2% успеха в SWE-bench Verified, что подтверждает жизнеспособность подхода для автоматизации разработки программного обеспечения и других высокоуровневых задач, требующих многошагового планирования и исполнения.
Ключевые факты
- Система TRACE повысила результат в бенчмарке τ²-Bench на 15,3 процентных пункта.
- Показатель Pass@1 в SWE-bench Verified достиг 73,2%.
- Метод основан на автоматической диагностике ошибок и создании синтетических сред обучения с подкреплением (RL).
- Для каждой выявленной способности создается отдельный LoRA-адаптер, который подключается при необходимости.