arXiv · 10.08.2026 ·Машинное обучение

Метод Fusion Training для улучшения математических способностей LLM

Исследователи представили метод Fusion Training, позволяющий объединить в одной языковой модели два режима работы: быстрые краткие ответы и глубокое пошаговое рассуждение. Авторы систематизировали динамику обучения, определив оптимальные соотношения данных и графики тренировки, что значительно повышает точность моделей при решении сложных математических задач и улучшает их способность к обобщению.

Традиционные подходы часто разделяют модели на специализированные «думающие» системы и быстрые чат-боты. Новый метод предлагает унифицированный подход, при котором модель учится переключаться между режимами в зависимости от сложности запроса. Это позволяет сохранить эффективность инференса для простых задач, не жертвуя качеством логических цепочек в математических вычислениях.

В работе анализируется влияние различных стратегий смешивания данных на итоговую производительность. Исследование показывает, что правильная настройка процесса обучения позволяет модели лучше справляться с задачами, требующими многоступенчатого вывода, сохраняя при этом лаконичность в стандартных диалогах. Полученные результаты дают практические рекомендации для разработчиков, стремящихся сбалансировать скорость и точность моделей.

Ключевые факты

Метод Thinking Mode Fusion (TMF) объединяет режимы «быстрого ответа» и «глубокого рассуждения» в рамках архитектуры одной модели.
Исследование сфокусировано на оптимизации параметров обучения, включая соотношение данных и графики (training schedule) для каждого режима.
Метод направлен на устранение разрыва между эффективностью инференса и способностью модели к сложным математическим вычислениям.
Работа базируется на систематическом анализе динамики обучения, что позволяет улучшить обобщающую способность LLM при работе с математическим контентом.

Источник: arXiv

Обсудить с ИИ

Похожие материалы

arXiv · Исследования и наука Метод обучения LLM через извлечение абстракций из опыта решения задач Исследователи предложили новый подход к обучению LLM, имитирующий человеческую способность превращать опыт в абстрактные стратегии. Модели анализируют свои цепочки рассуждений при решении задач из набора MATH, извлекая из них полезные выводы и предостережения. Эти абстракции затем используются для повышения эффективности решения последующих, более сложных задач, что значительно улучшает показатели точности моделей. Hacker News · Исследования и наука Эффективность больших языковых моделей в решении математических задач Исследование анализирует способность современных LLM справляться со сложными математическими задачами, которые ранее считались доступными только для специализированных систем. Автор рассматривает механизмы, позволяющие моделям демонстрировать неожиданно высокие результаты в доказательстве теорем и решении олимпиадных задач, подчеркивая сдвиг в возможностях нейросетей от простого предсказания текста к логическому рассуждению и формальной верификации математических конструкций. Hacker News · Исследования и наука Метод Answer First, Reason Later улучшает логические способности диффузионных LLM Исследователи представили новый подход к обучению диффузионных языковых моделей (LLM), меняющий порядок генерации текста. Вместо классического последовательного вывода модель сначала генерирует ответ, а затем обосновывает его. Этот метод позволяет значительно повысить точность решения сложных логических задач, минимизируя ошибки, возникающие при преждевременном планировании рассуждений в рамках диффузионного процесса. arXiv · Машинное обучение Интерпретируемое адаптивное масштабирование для LLM при инференсе Исследователи представили метод адаптивного масштабирования для LLM, который оптимизирует вычислительные затраты при генерации ответов. Вместо использования фиксированного количества попыток для всех запросов, система динамически определяет необходимый объем вычислений в зависимости от сложности задачи. Это позволяет повысить качество рассуждений модели, сохраняя при этом прозрачность процесса принятия решений и снижая избыточные затраты на простые промпты. Hacker News · Исследования и наука Оптимизация рассуждений LLM с учетом бюджетных ограничений на токены Исследователи представили новый подход к управлению вычислительными ресурсами при выполнении сложных задач моделями. Метод позволяет динамически распределять «бюджет» токенов в процессе рассуждений, обеспечивая баланс между точностью ответов и затратами на инференс. Это решение помогает эффективно масштабировать использование LLM в сценариях, где стоимость генерации критически важна для бизнес-процессов. Hacker News · Оценка и бенчмарки Критический анализ математических способностей современных LLM Исследователи провели независимую проверку математических навыков передовых языковых моделей, выявив значительные расхождения между заявленными результатами и реальной производительностью. Анализ показал, что многие модели демонстрируют признаки «заучивания» тестовых наборов данных, что приводит к завышению метрик точности при решении сложных задач, требующих глубокого логического вывода, а не простого воспроизведения паттернов из обучающей выборки. arXiv · Исследования и наука AMTFV: новый метод верификации математических решений для LLM Исследователи представили AMTFV — фреймворк для верификации математических ответов LLM через агентные потоки инструментов. В отличие от стандартной рефлексии на естественном языке, метод автоматически генерирует и исполняет верификационный код, что минимизирует ошибки вычислений. Подход позволяет моделям самостоятельно исправлять свои решения, повышая точность ответов в сложных задачах, требующих строгой логики и вычислений. Hacker News · Исследования и наука HRM-Text: новый подход к эффективному дообучению языковых моделей Исследователи представили HRM-Text — метод повышения эффективности предобучения языковых моделей, который выходит за рамки простого увеличения вычислительных мощностей. Авторы предлагают оптимизированный подход к обработке данных и архитектурным изменениям, позволяющий достичь высокой производительности при меньших затратах ресурсов. Это значимый шаг в сторону оптимизации обучения LLM, делающий создание мощных моделей более доступным и экономически оправданным. arXiv · Обучение и дообучение CreativeInstruct: новый метод обучения LLM для баланса качества и креативности Исследователи представили CreativeInstruct — метод обучения, решающий проблему снижения креативности и разнообразия ответов LLM после стандартного SFT. Новый подход позволяет моделям сохранять высокое качество генерации, одновременно повышая вариативность текста. Это критически важно для задач, требующих творческого подхода, таких как написание художественных текстов или сложных сценариев в рамках обучения с подкреплением. The latest research from Google · Исследования и наука Исследование Google: как цепочки рассуждений улучшают извлечение знаний из LLM Исследователи Google представили метод, который значительно повышает точность извлечения фактов из внутренней памяти больших языковых моделей. Вместо прямого запроса модель сначала генерирует цепочку рассуждений, что позволяет ей эффективнее активировать параметрические знания. Этот подход помогает преодолеть ограничения стандартных моделей при ответе на вопросы, требующие глубокого контекстного понимания или редких данных.

← Все материалы