Исследователи проанализировали фундаментальные ограничения современных ИИ-моделей при решении задач с открытым финалом, таких как написание кода, доказательство теорем и долгосрочное планирование. Основная проблема заключается в жесткости «представительских рамок»: фиксированный словарь концепций и предопределенные критерии успеха не позволяют моделям эффективно адаптироваться к нестандартным условиям и выходить за пределы заданного пространства решений.
Авторы работы выделяют два ключевых разрыва, препятствующих прогрессу: «разрыв словаря» (vocabulary gap) и «разрыв верификатора» (verifier gap). Первый ограничивает способность модели оперировать новыми понятиями, выходящими за рамки обучающей выборки, а второй затрудняет объективную оценку правильности решений в задачах, где нет единственно верного ответа или четкого алгоритма проверки. Эти структурные барьеры делают текущие модели менее гибкими в сравнении с человеческим мышлением, способным к динамическому пересмотру стратегий.
Для преодоления этих ограничений предлагается пересмотреть подходы к архитектуре моделей и методам их обучения. Вместо опоры на статические представления, системы должны развивать механизмы самокоррекции и динамического расширения пространства поиска решений. Это критически важно для перехода от выполнения узких инструкций к полноценной автономной исследовательской деятельности, где ИИ сталкивается с неопределенностью и необходимостью самостоятельно определять критерии достижения цели.
Ключевые факты
- Исследование сфокусировано на структурных ограничениях ИИ в задачах программирования, доказательства теорем и долгосрочного планирования.
- Выделен «разрыв словаря», ограничивающий способность моделей работать с концепциями вне обучающего набора данных.
- Описан «разрыв верификатора», препятствующий точной оценке результатов в задачах без однозначных критериев успеха.
- Установлено, что текущие модели ограничены жесткими рамками поиска решений, что затрудняет их применение в неструктурированных исследовательских задачах.