Компания Prime Intellect выпустила обновление Verifiers v1, предлагающее модульную архитектуру для обучения и оценки агентных систем с использованием обучения с подкреплением (RL). Система разделяет среду на три независимых компонента: наборы задач, механизмы выполнения и среды исполнения. Это позволяет стандартизировать процесс сбора данных и упростить интеграцию различных алгоритмов обучения в агентные пайплайны.
Новая архитектура вводит концепцию сервера перехвата, который выступает в роли прокси-узла. Он не только управляет запросами между компонентами, но и автоматически записывает траектории, готовые для последующего обучения моделей. Такой подход обеспечивает высокую переносимость: любой набор задач теперь может быть запущен на совместимом механизме выполнения без необходимости переписывать код под конкретную среду.
Разделение на taskset (определение задачи), harness (логика взаимодействия) и runtime (инфраструктурная среда) решает проблему жесткой привязки кода к конкретным вычислительным мощностям. На старте пользователям доступна полная поддержка обучения через prime-rl, что позволяет масштабировать эксперименты с агентными моделями, используя унифицированные интерфейсы для сбора и обработки обучающих данных.
Ключевые факты
- Релиз Verifiers v1 переводит ядро системы в пространство имен verifiers.v1 для обеспечения модульности.
- Архитектура разделена на три уровня: taskset (что делать), harness (как выполнять) и runtime (где запускать).
- Внедрен сервер перехвата (interception server), который проксирует запросы и сохраняет траектории для обучения.
- Обеспечена полная поддержка фреймворка prime-rl для запуска агентных RL-экспериментов.
- Система позволяет комбинировать любые наборы задач с любыми совместимыми механизмами выполнения.
