Исследователи представили FactorJEPA — архитектуру мировых моделей, адаптированную для прогнозирования событий в сверхплотных и хаотичных городских условиях, получивших название DENSEWORLD. В отличие от монолитных подходов, модель декомпозирует предсказания на независимые каналы: планировку пространства, поведение агентов и их взаимодействие. Это позволяет системе эффективно обрабатывать сложные сценарии с высокой плотностью объектов, где стандартные методы предсказания часто теряют точность.
Традиционные модели мирового устройства часто сталкиваются с трудностями при моделировании сред, где количество динамических объектов слишком велико, а их поведение непредсказуемо. FactorJEPA использует принципы Joint Embedding Predictive Architectures (JEPA), фокусируясь на извлечении абстрактных представлений вместо генерации пикселей. Разделение на «слои» (layout, agent, interaction) позволяет модели лучше понимать причинно-следственные связи в условиях, характерных для мегаполисов стран Глобального Юга.
Такой подход значительно снижает вычислительную нагрузку при обработке «шумных» данных и повышает устойчивость системы к нетипичным сценариям движения. Разработчики отмечают, что архитектура демонстрирует высокую точность в задачах долгосрочного планирования и предсказания траекторий в средах, где плотность пешеходов и транспорта превышает стандартные показатели, используемые в существующих бенчмарках для автономных систем.
Ключевые факты
- FactorJEPA разделяет предсказание будущего на три независимых канала: планировка (layout), агенты (agent) и взаимодействия (interaction).
- Модель протестирована на наборе данных DENSEWORLD, имитирующем хаотичные и перенаселенные городские пространства.
- Архитектура базируется на принципах JEPA, что позволяет избегать генерации избыточных данных и фокусироваться на семантическом представлении мира.
- Метод показывает повышенную эффективность в условиях высокой энтропии, где классические модели предсказания часто демонстрируют накопление ошибок.