Исследователи предложили теоретическую модель перехода от текущих stateless-архитектур LLM к нативным системам, где когнитивные протоколы встроены в структуру модели. Вместо симуляции памяти и логики через промпт-инжиниринг, авторы предлагают внедрять агентные функции на уровне архитектуры, что должно устранить структурное напряжение между прикладным слоем и базовой моделью, повышая эффективность автономных систем.
Современные модели ограничены отсутствием внутреннего состояния, что вынуждает разработчиков выносить управление контекстом и логику принятия решений во внешний прикладной слой. Это создает избыточную нагрузку на инференс и ограничивает возможности долгосрочного планирования. Предложенный подход предполагает «погружение» этих протоколов непосредственно в веса и механизмы внимания модели, что позволяет ИИ-агентам оперировать сложными структурами данных без постоянной переподготовки промптов.
Такая трансформация архитектуры направлена на решение проблемы гетерогенной эволюции ИИ, где разные компоненты системы (память, планирование, исполнение) должны работать как единое целое. Перенос когнитивных функций с уровня приложения на уровень «родной» архитектуры модели обещает снизить задержки и повысить надежность агентных систем в задачах, требующих многошагового рассуждения и удержания контекста в течение длительного времени.
Ключевые факты
- Текущие LLM классифицируются как stateless-системы, где поведение полностью определяется входными данными в момент инференса.
- Предложенная концепция «нативной мета-архитектуры» предполагает перенос когнитивных протоколов с прикладного уровня (промпт-инжиниринг) внутрь архитектуры модели.
- Основным драйвером эволюции ИИ названо «структурное напряжение» между необходимостью сложных агентных функций и ограниченными возможностями stateless-моделей.
- Исследование направлено на создание фундамента для более автономных и когнитивно сложных ИИ-агентов, способных к нативному управлению памятью и контекстом.