Исследователи проанализировали способность современных LLM к долгосрочному планированию при генерации текста. Работа доказывает, что модели не просто предсказывают следующий токен на основе локального контекста, а используют скрытые механизмы для учета будущих последствий своих решений. Это меняет представление о том, как именно архитектура трансформеров справляется со сложными логическими задачами и многоходовым планированием.

Авторы работы применили метод декомпозиции вероятностей, чтобы отделить вклад текущего контекста от влияния будущих токенов на выбор модели. Выяснилось, что при решении задач, требующих последовательного вывода, модели демонстрируют поведение, характерное для алгоритмов поиска, где текущий выбор оптимизируется с учетом ожидаемого результата в конце цепочки рассуждений.

Этот результат критически важен для понимания ограничений текущих архитектур. Если модели действительно способны к «планированию вперед», это объясняет их высокую эффективность в написании кода и математических доказательствах, где каждый шаг должен соответствовать финальной цели. Исследование ставит под сомнение гипотезу о том, что LLM являются лишь «стохастическими попугаями», работающими исключительно на основе вероятностных паттернов прошлого.

Ключевые факты

  • Исследование сфокусировано на анализе механизмов планирования в архитектурах трансформеров.
  • Установлено, что модели учитывают будущие токены, оптимизируя вероятность всей последовательности, а не только следующего шага.
  • Использован математический подход для разделения влияния локальных и глобальных зависимостей в процессе инференса.
  • Результаты показывают, что модели способны к «поиску» в пространстве токенов, что приближает их работу к алгоритмическому планированию.
  • Работа опубликована в 2024 году и доступна на платформе arXiv.