Исследователи представили Reasoning Core — масштабную коллекцию из 50 процедурных генераторов, предназначенную для обучения LLM навыкам логического вывода. Система позволяет создавать верифицируемые задачи в различных дисциплинах, от математики и программирования до теории игр и причинно-следственного анализа, обеспечивая автоматическую оценку сложности и семантическую проверку ответов, что критически важно для качественного дообучения моделей с контролем процесса рассуждений.
Традиционные методы обучения часто ограничены статичными наборами данных, которые быстро исчерпываются. Использование процедурной генерации позволяет создавать практически бесконечные последовательности задач, адаптируемые под конкретные требования к сложности. Это решает проблему нехватки качественных данных для обучения моделей, способных к многошаговому планированию и строгому логическому анализу.
Инструментарий Reasoning Core включает в себя не только генераторы, но и встроенные механизмы оценки (task evaluators) и семантические скореры. Это позволяет разработчикам точно настраивать процесс обучения, контролируя прогресс модели на каждом этапе. Такой подход способствует созданию более устойчивых систем, которые демонстрируют лучшие результаты в задачах, требующих глубокого понимания структуры данных и формальных правил.
Ключевые факты
- Коллекция включает 50 различных генераторов процедурных задач.
- Охватываемые области: математика, логика, планирование, отслеживание состояний, формальные языки, игры и код.
- Система поддерживает динамическое управление сложностью задач.
- Внедрены семантические скореры для автоматической верификации ответов.
- Решение направлено на улучшение обучения моделей через контролируемое дообучение (completion-supervised fine-tuning).