Исследователи Anthropic изучили, как языковые модели обрабатывают информацию, используя концепцию «глобального рабочего пространства» (Global Workspace Theory). Эксперименты показали, что нейронные сети формируют специализированные группы активаций, которые транслируют информацию между различными слоями модели. Это позволяет лучше понять внутреннюю архитектуру принятия решений и механизмы того, как именно ИИ связывает разрозненные данные в единый контекст.

В основе работы лежит гипотеза о том, что для эффективной обработки сложных задач модели выделяют определенные «узлы» или паттерны активации, которые становятся доступными для всей сети. Авторы исследования применили методы интерпретируемости, чтобы визуализировать эти потоки данных. Выяснилось, что информация не просто передается последовательно, а активно «транслируется» через определенные слои, что напоминает работу когнитивных систем в биологических организмах.

Понимание этих процессов критически важно для развития методов контроля над моделями. Если исследователи могут точно определить, какие группы нейронов отвечают за «глобальную трансляцию» конкретных концепций, это открывает путь к более точному управлению поведением ИИ и снижению вероятности галлюцинаций. Полученные данные помогают интерпретировать «черный ящик» нейросетей, превращая абстрактные веса в понятные функциональные структуры.

Ключевые факты

  • Исследование опирается на теорию глобального рабочего пространства (GWT), изначально разработанную для нейробиологии.
  • Команда Anthropic использовала методы механистической интерпретируемости для анализа активаций внутри больших языковых моделей.
  • Выявлено наличие специфических слоев-посредников, которые координируют передачу информации между функциональными блоками сети.
  • Результаты показывают, что модели способны динамически формировать «рабочее пространство» для решения задач, требующих интеграции контекста из разных частей входных данных.
  • Работа направлена на повышение прозрачности моделей и создание инструментов для отслеживания логических цепочек внутри архитектуры трансформеров.