Microsoft Research · 25.06.2026 ·Исследования и наука

ИИ-метод для расшифровки работы мозга через генеративное причинно-следственное тестирование

Исследователи Microsoft представили метод «генеративного причинно-следственного тестирования» (generative causal testing), позволяющий интерпретировать работу нейросетей-«черных ящиков» применительно к активности мозга. Технология переводит сложные паттерны активации нейронов в проверяемые гипотезы, которые затем верифицируются с помощью сканирования мозга, что позволяет точно определить, на какие лингвистические стимулы реагируют конкретные области коры головного мозга.

Традиционные подходы к анализу нейровизуализации часто ограничиваются поиском корреляций, не раскрывая причинно-следственных связей. Новый подход использует генеративные модели для создания синтетических стимулов, которые максимизируют отклик определенных зон мозга. Это позволяет ученым не просто наблюдать за реакцией, а экспериментально проверять, является ли конкретный лингвистический признак — например, синтаксическая структура или семантическое значение — истинным триггером для нейронной активности.

Метод значительно ускоряет процесс нейробиологических исследований, автоматизируя генерацию гипотез. Вместо ручного подбора стимулов исследователи получают от ИИ набор предсказаний, которые можно подтвердить или опровергнуть в ходе МРТ-сканирования. Это открывает путь к созданию более точных карт функциональной специализации мозга и лучшему пониманию того, как биологические нейронные сети обрабатывают сложные языковые конструкции.

Ключевые факты

Метод генеративного причинно-следственного тестирования преобразует скрытые веса моделей в интерпретируемые лингвистические гипотезы.
Исследование сфокусировано на выявлении специфических реакций областей мозга на языковые стимулы, такие как синтаксис и семантика.
Технология позволяет автоматизировать процесс создания экспериментальных стимулов для МРТ-сканирования.
Разработка направлена на преодоление проблемы «черного ящика» при анализе сложных нейронных процессов.

Источник: Microsoft Research

Обсудить с ИИ

Похожие материалы

arXiv · Исследования и наука Интерпретация механизмов внимания через синтез программ Исследователи представили новый метод интерпретации нейронных сетей, который позволяет заменить непрозрачные вычисления моделей на понятные человеку символьные описания. В центре внимания оказались механизмы внимания (attention heads) в трансформерах, которые традиционно считаются «черным ящиком» из-за сложности их внутренних операций. Hacker News · Исследования и наука Использование языковых моделей для картирования нейронных основ человеческой речи Исследователи представили работу, опубликованную в журнале Nature, в которой нейросетевые архитектуры применяются для анализа механизмов обработки языка в человеческом мозге. Ученые использовали большие языковые модели в качестве вычислительных инструментов для сопоставления паттернов нейронной активности с лингвистическими структурами. Это позволило выявить, как именно мозг кодирует семантические и синтаксические компоненты речи в режиме реального времени. arXiv · Исследования и наука Новый подход к созданию синтетических данных для интерпретируемости нейросетей Исследователи представили новый метод генерации синтетических наборов данных, предназначенных для тестирования методов интерпретируемости нейронных сетей. Существующие синтетические датасеты часто не отражают сложную иерархическую структуру реальных данных, что ограничивает их применимость при оценке того, как именно модели обучаются распознавать признаки. Hacker News · Исследования и наука Исследователи обнаружили «нейроны безопасности» в LLM для поиска уязвимостей в коде Исследователи выявили специфические слои нейронов в архитектуре больших языковых моделей, которые отвечают за распознавание уязвимостей в программном коде. Анализ показал, что эти нейронные структуры активируются при обработке небезопасных паттернов, что позволяет использовать их для автоматизированного аудита безопасности. Открытие дает новый метод интерпретации внутренних механизмов принятия решений моделями при анализе кода. The Decoder · Исследования и наука Критика методологии ИИ-исследований через симуляцию в Age of Empires II Исследователь Microsoft продемонстрировал необычный подход к анализу современной научной литературы в области искусственного интеллекта, создав работающую нейронную сеть внутри редактора карт стратегии Age of Empires II. В качестве «нейронов» и связей в этой системе выступили игровые объекты: козы, мосты и ледяные рампы. Этот проект стал визуальной метафорой для критики текущих методов оценки больших языковых моделей. Hacker News · Машинное обучение Новый подход к законам масштабирования может изменить обучение ИИ-моделей Исследователи из Стэнфордского университета предложили новый подход к законам масштабирования, который может существенно повлиять на процесс обучения искусственных нейронных сетей. Традиционные законы масштабирования описывают, как увеличение размера модели и объёма данных влияет на её производительность. Однако новый метод позволяет более точно предсказывать, как изменения в архитектуре модели и данных повлияют на её точность и эффективность. arXiv · Память и RAG MEMPROBE: новый метод оценки долгосрочной памяти ИИ-агентов Исследователи представили MEMPROBE — методологию для прямой оценки долгосрочной памяти ИИ-агентов. Вместо косвенного тестирования через качество ответов, подход фокусируется на восстановлении скрытых состояний пользователя. Это позволяет количественно измерить, насколько точно агент сохраняет и извлекает информацию о предпочтениях и истории взаимодействий, что критически важно для создания персонализированных и адаптивных систем в долгосрочной перспективе. Hacker News · Безопасность и алайнмент Фреймворк для верифицируемого анализа поведения ИИ Исследователи представили методологию для систематической проверки того, как именно нейросетевые модели приходят к своим выводам. Основная проблема современных систем заключается в их «черном ящике»: даже при правильных ответах процесс рассуждения остается непрозрачным. Новый подход предлагает использовать формализованные планы анализа, которые позволяют декомпозировать сложные задачи на проверяемые этапы. arXiv · Машинное обучение Новый метод оптимизируемых линейных релаксаций для функций активации Исследователи представили новый подход к формальной верификации нейронных сетей, основанный на использовании оптимизируемых линейных релаксаций для функций активации. Традиционные методы верификации, критически важные для обеспечения безопасности моделей в ответственных областях, часто требуют создания специализированных релаксаций вручную для каждой функции активации. Это ограничивает масштабируемость и затрудняет адаптацию к современным архитектурам. The Decoder · Оценка и бенчмарки Новый бенчмарк показал низкую эффективность ИИ в реальных интеллектуальных задачах Исследователи представили новый бенчмарк, предназначенный для оценки способности нейросетей справляться с комплексной интеллектуальной работой. В отличие от стандартных тестов, проверяющих знание фактов или написание кода, этот инструмент имитирует реальные рабочие процессы, требующие многоэтапного планирования, анализа контекста и принятия решений. Результаты показали, что даже самые передовые языковые модели демонстрируют крайне низкие показатели в таких условиях.

← Все материалы