Исследователи представили метод KV-Cache Grafting, позволяющий значительно повысить производительность замороженных 12-миллиардных языковых моделей в задачах математического рассуждения. Техника достигает 93,3% точности на бенчмарке AIME, используя манипуляции с кэшем ключей и значений (KV-cache) во время инференса, что позволяет улучшить способности модели без необходимости дорогостоящего дообучения или изменения весов нейросети.

Метод основан на динамической интеграции специализированных компонентов в процесс генерации. Вместо классического fine-tuning, авторы предлагают «пересаживать» или адаптировать состояния KV-кэша, что позволяет модели извлекать более качественные логические цепочки при решении сложных задач. Это открывает путь к эффективному использованию существующих компактных моделей для узкоспециализированных высокоточных вычислений.

Подход демонстрирует, что архитектурные ограничения предобученных моделей могут быть частично преодолены на этапе исполнения. Это снижает вычислительные затраты на адаптацию LLM, так как не требует обновления параметров модели, сохраняя при этом исходную стабильность весов. Метод особенно эффективен для моделей среднего размера, которые традиционно уступали гигантским архитектурам в сложных математических тестах.

Ключевые факты

  • Метод KV-Cache Grafting позволяет достичь 93,3% точности на бенчмарке AIME для 12B моделей.
  • Технология работает с замороженными весами, исключая необходимость классического дообучения.
  • Метод оптимизирует процесс инференса через манипуляции с кэшем ключей и значений.
  • Подход значительно повышает логические способности компактных моделей, приближая их к результатам крупнейших LLM.