Исследователи Anthropic опубликовали работу, посвященную гипотезе «глобального рабочего пространства» (Global Workspace Theory) в контексте больших языковых моделей. Авторы анализируют, как нейронные сети формируют внутренние представления информации, доступные для различных когнитивных процессов. Исследование проливает свет на механизмы обработки данных внутри моделей и их сходство с процессами человеческого сознания при решении сложных задач.
Работа опирается на теорию, согласно которой когнитивные системы используют центральное «пространство» для обмена информацией между специализированными модулями. В контексте трансформеров это интерпретируется как способность модели выделять ключевые признаки и контекстные зависимости, которые становятся доступными для последующих слоев обработки. Авторы рассматривают, как именно активации в скрытых слоях коррелируют с абстрактными концептами и логическими цепочками, необходимыми для генерации ответов.
Данное исследование является частью усилий по интерпретируемости моделей (mechanistic interpretability). Понимание того, как информация распределяется и интегрируется внутри архитектуры, позволяет разработчикам лучше контролировать поведение систем и диагностировать причины возникновения галлюцинаций или логических ошибок. Работа подчеркивает, что современные LLM демонстрируют признаки функциональной интеграции данных, напоминающие биологические когнитивные архитектуры.
Ключевые факты
- Исследование сфокусировано на применении теории глобального рабочего пространства (GWT) к архитектуре трансформеров.
- Авторы анализируют внутренние активации нейронов для выявления механизмов интеграции информации в LLM.
- Работа направлена на развитие методов механистической интерпретируемости, позволяющих «заглянуть» внутрь «черного ящика» модели.
- Исследование подтверждает, что модели формируют динамические представления, которые могут выступать в роли центрального узла для передачи данных между слоями.