Главный ученый по ИИ в Meta (признана экстремистской организацией, деятельность запрещена в РФ) Ян Лекун представил критический взгляд на текущие ограничения больших языковых моделей. Он утверждает, что авторегрессионные LLM не способны к полноценному планированию и пониманию физического мира, предлагая переход к архитектурам на основе мировых моделей (World Models), которые обучаются на предсказании состояний среды, а не только на предсказании следующего токена.

Основная проблема существующих систем, по мнению Лекуна, заключается в их неспособности к долгосрочному планированию и рассуждению. В то время как LLM полагаются на статистические закономерности текста, новые подходы должны имитировать когнитивные процессы живых существ. Это подразумевает использование иерархических систем, где модель может разбивать сложные задачи на последовательность подзадач, оценивая их потенциальный результат до совершения действия.

Переход к архитектурам типа JEPA (Joint Embedding Predictive Architecture) позволяет моделям обучаться на видео и сенсорных данных, формируя абстрактное представление реальности. Такой подход избавляет систему от необходимости генерировать каждый пиксель или слово, фокусируясь на предсказании ключевых концептов. Это критически важно для создания автономных агентов, способных действовать в реальном физическом мире, а не только в рамках текстового диалога.

Ключевые факты

  • Ян Лекун утверждает, что LLM ограничены отсутствием понимания физической реальности и неспособностью к планированию.
  • Предложена концепция World Models, где ИИ обучается предсказывать последствия своих действий в динамической среде.
  • Архитектура JEPA рассматривается как альтернатива авторегрессионному обучению, фокусирующаяся на абстрактных представлениях данных.
  • Основной упор делается на иерархическое планирование, позволяющее модели разбивать сложные цели на управляемые этапы.
  • Исследование направлено на преодоление барьера, при котором ИИ совершает ошибки из-за отсутствия «здравого смысла» и понимания причинно-следственных связей.