arXiv · 23.06.2026 ·Исследования и наука

Анализ определений фактической причинности в ИИ-системах

Исследователи Андреас и Гюнтер в серии из семи работ предложили классификацию определений актуальной причинности, разделив их на три типа: фактическую, контрфактическую и основанную на регулярности. Новое исследование доказывает, что их последняя модель фактической причинности объединяет все три подхода, что ставит под сомнение теоретическую чистоту текущих методов формализации причинно-следственных связей в интеллектуальных системах.

Вопрос причинности является фундаментальным для развития надежного ИИ, так как понимание того, что именно привело к конкретному результату, необходимо для интерпретируемости и безопасности моделей. Автор работы демонстрирует, что попытки выделить «фактическое» различие как отдельный класс не являются исчерпывающими, так как они неизбежно включают в себя элементы других логических конструкций.

Это исследование подчеркивает сложность формализации логики «причинности» в машинном обучении. Разработчики и исследователи часто полагаются на эти определения при создании систем принятия решений, однако отсутствие единого математического консенсуса в определении причинно-следственных связей может приводить к ошибкам в интерпретации поведения моделей в сложных сценариях.

Ключевые факты

Исследование анализирует семь последовательных работ авторов Андреаса и Гюнтера.
Выделены три конкурирующих типа описания причинности: фактическое, контрфактическое и основанное на регулярности.
Доказано, что новейшее определение фактической причинности фактически включает в себя все три классификационных типа.
Работа ставит под вопрос методологическую независимость текущих подходов к моделированию причинности в ИИ.

Источник: arXiv

Обсудить с ИИ

Похожие материалы

arXiv · Исследования и наука Новый математический подход к причинно-следственным связям в ИИ Исследователи представили концепцию «инфинитезимальной причинности» (Infinitesimal Causality), описывающую механизмы вмешательства в системы через призму касательных расслоений в категориях Фробениуса. Этот подход позволяет формализовать, как малые изменения в структуре данных влияют на поведение моделей, предлагая строгий математический аппарат для анализа причинно-следственных связей в сложных вычислительных системах и нейронных сетях. Hacker News · Исследования и наука Исследование основ критической ИИ-грамотности Исследователи представили работу, анализирующую взаимодействие пользователей с системами искусственного интеллекта через призму критической грамотности. Авторы рассматривают ИИ не просто как технический инструмент, а как сложную социально-техническую среду, где ключевую роль играет понимание механизмов работы алгоритмов, их ограничений и потенциальных искажений. В центре внимания находится процесс формирования пользовательского опыта при столкновении с автоматизированными ответами и рекомендациями. arXiv · Исследования и наука Исследование: риски использования LLM в поиске причинно-следственных связей Новая научная работа анализирует эффективность использования больших языковых моделей для задач поиска причинно-следственных связей (causal discovery). Исследователи изучили подходы, при которых модели просят определять направления связей, предлагать структуру графов или использовать их выводы в качестве априорных ограничений для статистических алгоритмов. Основной вывод заключается в том, что текущие методы часто подменяют строгий анализ данных простыми текстовыми ассоциациями, заложенными в веса моделей. Hacker News · Исследования и наука Новая классификация мировых моделей для ИИ Исследователи предложили функциональную таксономию мировых моделей, которые используются в ИИ для понимания и взаимодействия с окружающим миром. В статье на Substack автор подробно разбирает различные типы моделей, их применение и ограничения. Hacker News · Исследования и наука Исследование раскрывает парадокс эффективности ИИ Учёные из Массачусетского технологического института (MIT) и Стэнфорда опубликовали исследование, посвящённое парадоксу эффективности ИИ. В работе, размещённой на arXiv, авторы показывают, что несмотря на значительные улучшения в производительности ИИ-моделей, их реальная эффективность в практических задачах часто не соответствует ожиданиям. arXiv · Исследования и наука Исследование: как языковые модели теряют логику при замене переменных Учёные из MIT и других институтов обнаружили любопытный феномен в языковых моделях: при замене переменных в задачах на каузальное рассуждение на нейтральные маркеры (например, «X» вместо «Джон») модели начинают давать разные ответы, хотя структура вопроса и правильный ответ остаются неизменными. Это указывает на то, что модели либо теряют часть информации при такой замене, либо не могут корректно интерпретировать сохранённую информацию. arXiv · Исследования и наука Термодинамический подход к измерению интеллекта Исследователи предложили новую теоретическую модель для количественной оценки интеллекта, опираясь на принципы термодинамики. Согласно этой концепции, интеллект определяется как способность системы увеличивать вероятность наступления редких, но допустимых состояний будущего, которые были бы маловероятны при пассивном развитии событий. Авторы работы рассматривают интеллект не как абстрактное свойство, а как механизм, позволяющий системе активно моделировать окружающую среду и свое положение в ней. arXiv · Исследования и наука Как цепочки рассуждений влияют на ответы ИИ-моделей Исследователи изучили, как цепочки рассуждений (Chain-of-Thought, CoT) влияют на точность ответов языковых моделей. Они выяснили, что не все шаги в цепочке одинаково важны для итогового результата. Для оценки значимости каждого шага использовался метод раннего выхода (early exit), который позволяет определить, насколько конкретный шаг влияет на конечный ответ. Hacker News · Исследования и наука Современное состояние математических способностей ИИ В актуальном обзоре математических возможностей современных языковых моделей анализируется прогресс в решении задач, требующих формальной логики и глубоких вычислений. Исследование охватывает как классические бенчмарки, так и новые подходы к верификации ответов, где модели сталкиваются с необходимостью не просто предсказывать следующий токен, а следовать строгим правилам математического доказательства. arXiv · Исследования и наука Метод разрешения конфликтов знаний в LLM при работе с внешними данными Исследователи представили новый подход к решению проблемы противоречий между внутренними параметрическими знаниями языковых моделей и информацией, поступающей из внешнего контекста. В современных системах, использующих RAG или длинные промпты, модель часто сталкивается с ситуацией, когда данные в запросе пользователя противоречат тому, что было «выучено» моделью в процессе обучения. Это приводит к галлюцинациям или снижению точности ответов, так как модель не может эффективно приоритизировать источники данных.

← Все материалы