arXiv · 09.07.2026 ·Исследования и наука

Новый метод обучения разреженных автокодировщиков для мультимодальных моделей

Исследователи представили метод структурированных разреженных автокодировщиков (SAE), решающий проблему фрагментации концептов в мультимодальных моделях. Традиционные SAE часто не могут связать визуальные и текстовые представления, выделяя разрозненные признаки. Новый подход обеспечивает согласованность концептов между модальностями, что критически важно для интерпретируемости нейросетей и понимания того, как модели связывают изображения с текстом.

Механистическая интерпретируемость направлена на декомпозицию «черного ящика» нейросетей на понятные человеку компоненты. В случае с моделями типа Vision-Language Models (VLM), стандартные методы обучения часто приводят к тому, что один и тот же семантический объект, например «собака», кодируется разными, не связанными между собой латентными признаками для картинки и для подписи. Это затрудняет анализ логики принятия решений моделью.

Предложенная архитектура принудительно выравнивает латентные пространства, заставляя автокодировщик искать общие паттерны активации для визуальных и текстовых данных. Это позволяет извлекать более устойчивые и интерпретируемые признаки, которые сохраняют смысл независимо от того, подается на вход изображение или текстовое описание. Такой подход повышает точность анализа внутренних состояний моделей при работе с мультимодальными данными.

Ключевые факты

Проблема «фрагментированного покрытия» в стандартных SAE приводит к тому, что визуальные концепты не находят соответствия в текстовых представлениях.
Метод структурированных SAE обеспечивает кросс-модальную согласованность, связывая разрозненные признаки в единые семантические единицы.
Исследование сфокусировано на улучшении методов механистической интерпретируемости для Vision-Language Models (VLM).
Новая архитектура позволяет более эффективно отслеживать, как именно модель интерпретирует объекты при переходе от визуального ряда к языковому описанию.

Источник: arXiv

Обсудить с ИИ

Похожие материалы

arXiv · Машинное обучение Новый метод обучения мультимодальных моделей через разделение восприятия и рассуждения Исследователи представили метод обучения мультимодальных моделей, который решает проблему «коротких путей» при использовании самодистилляции. Традиционный подход, при котором модель обучается на собственных результатах с опорой на эталонные данные, часто приводит к тому, что мультимодальные системы игнорируют визуальный контекст, полагаясь исключительно на текстовые подсказки. Новый алгоритм разделяет процессы восприятия изображения и логического рассуждения, что заставляет модель учитывать визуальные признаки как равноправный источник информации. arXiv · Исследования и наука Новый метод оценки интерпретируемости разреженных автокодировщиков (SAE) Исследователи представили фреймворк для оценки интерпретируемости разреженных автокодировщиков (SAE), используемых для анализа нейросетей. В отличие от существующих прокси-метрик, новый подход измеряет семантическое соответствие между латентными признаками модели и аннотированными человеком концептами. Это позволяет количественно оценивать, насколько точно внутренние представления ИИ отражают человеческие понятия, повышая прозрачность работы сложных моделей компьютерного зрения. arXiv · Исследования и наука Новый метод обучения LVLM через визуально обоснованную саморефлексию Исследователи представили метод обучения мультимодальных моделей (LVLM), который улучшает их способность к саморефлексии через подкрепление (RL). В отличие от стандартных моделей, которые часто игнорируют визуальные данные при исправлении ошибок, новый подход заставляет нейросеть опираться на исходное изображение при анализе цепочки рассуждений, что значительно повышает точность коррекции логических выводов. Hacker News · Оценка и бенчмарки Метод Лос-Аламосской лаборатории для выявления галлюцинаций в мультимодальных моделях Исследователи из Лос-Аламосской национальной лаборатории представили новый подход к диагностике ошибок в работе мультимодальных моделей, объединяющих зрение и язык. Основная проблема таких систем заключается в склонности к «галлюцинациям» — генерации описаний объектов или событий, которых нет на исходном изображении. Разработанный метод позволяет более точно отслеживать соответствие между визуальными данными и текстовым выводом модели. arXiv · Исследования и наука Новый метод регуляризации для повышения интерпретируемости Sparse Autoencoders Исследователи представили метод улучшения интерпретируемости разреженных автокодировщиков (SAE), которые используются для анализа нейронных сетей. Авторы предложили новые регуляризаторы для архитектуры Top-k SAE, позволяющие эффективнее разделять полисемантические активации на более понятные и моносемантические признаки. Это решение помогает точнее интерпретировать внутренние представления моделей компьютерного зрения, сохраняя при этом жесткие ограничения по разреженности. Hacker News · Исследования и наука Механизмы интерпретируемости в моделях Claude Исследователи Anthropic представили детальный разбор внутренней архитектуры моделей Claude, сфокусировавшись на методах интерпретируемости. Используя технику словарей разреженных автокодировщиков (SAE), команда смогла выделить миллионы специфических «концептуальных признаков», которые активируются в нейросети при обработке информации. Это позволяет визуализировать, как именно модель «понимает» абстрактные понятия, эмоции и логические связи в процессе генерации текста. arXiv · Оценка и бенчмарки Исследование устойчивости VLM к визуальным искажениям при распознавании текста Исследователи проанализировали устойчивость мультимодальных моделей (VLM) к деградации изображений при выполнении задач OCR-рассуждений. Работа выявила, что даже незначительные визуальные помехи существенно снижают точность распознавания и логических выводов моделей. Авторы представили методологию оценки, позволяющую измерить влияние структурных искажений и шума на способность нейросетей интерпретировать текст на сложных визуальных данных. arXiv · Машинное обучение Новый метод C2R повышает точность интерпретации нейросетей через разреженные автокодировщики Исследователи представили метод C$^{2}$R (Cross-sample Consistency Regularization), направленный на решение проблем «расщепления» и «поглощения» признаков в разреженных автокодировщиках (SAE). Этот подход позволяет более эффективно декомпозировать активации больших языковых моделей, предотвращая фрагментацию понятий и обеспечивая более точное выделение атомарных признаков, что критически важно для интерпретируемости сложных нейронных архитектур. arXiv · Исследования и наука AIR: новый подход к адаптивному рассуждению в мультимодальных моделях Исследователи представили метод Adaptive Interleaved Reasoning (AIR), направленный на улучшение логических способностей мультимодальных больших языковых моделей (MLLM). В отличие от существующих решений, которые полагаются на жестко заданные эвристики для обработки визуальных данных, новый подход позволяет моделям динамически использовать код для построения цепочек рассуждений. Это дает возможность системе самостоятельно определять, когда и как применять программные инструменты для решения сложных задач, требующих глубокого анализа изображений. arXiv · Машинное обучение Локализованное конформное предсказание для Vision-Language моделей Исследователи представили метод локализованного конформного предсказания (Localized Conformal Prediction), позволяющий точнее оценивать неопределенность в задачах классификации изображений с помощью мультимодальных моделей. Новый подход адаптирует конформные множества для конкретных тестовых примеров, что значительно повышает надежность предсказаний по сравнению с традиционными методами, обеспечивающими лишь общие гарантии покрытия для всей выборки.

← Все материалы