Исследователи представили методологию для решения проблемы отсутствия надежных метрик в системах самообучающихся ИИ-агентов. Авторы предложили механизм «эволюции метрик», который позволяет агентам самостоятельно создавать и совершенствовать критерии оценки собственных навыков. Это устраняет зависимость от заранее заданных статических метрик, позволяя агентам адаптироваться к сложным задачам, где стандартные способы проверки эффективности ранее были невозможны.

В основе подхода лежит итеративный цикл, в котором агент не только модифицирует свои навыки, но и пересматривает способы их измерения. Система использует композицию небольших детекторов ошибок, которые проходят полный эволюционный жизненный цикл. Такой подход позволяет динамически подстраивать оценочный аппарат под конкретную задачу, минимизируя риск деградации модели при автоматическом дообучении.

Разработка направлена на создание автономных систем, способных к долгосрочному улучшению без участия человека в процессе валидации каждого шага. Авторы доказывают, что возможность агента самостоятельно определять качество своей работы является критическим фактором для достижения высокого уровня автономности в прикладных сценариях, где отсутствуют размеченные наборы данных для обучения.

Ключевые факты

  • Разработан метод автоматической эволюции метрик через композицию детекторов ошибок.
  • Система устраняет необходимость в фиксированных внешних метриках при самообучении агентов.
  • Предложенный цикл включает создание, пересмотр и удаление неэффективных навыков и критериев их оценки.
  • Методология ориентирована на задачи, где отсутствуют готовые бенчмарки для оценки производительности агента.
  • Исследование сфокусировано на решении проблемы «кто оценивает оценщика» в замкнутых циклах самосовершенствования LLM.