Исследователи представили ExplAIner — новый декларативный язык запросов, предназначенный для унификации методов интерпретации моделей машинного обучения (XAI). Система позволяет специалистам по данным формализовать, комбинировать и анализировать различные метрики объяснимости для булевых моделей в рамках единого синтаксиса, что упрощает работу с разрозненными методами оценки предсказаний и повышает прозрачность сложных алгоритмов.
В текущей практике XAI существует множество методов оценки важности признаков и объяснения решений, однако их интеграция в пайплайны обработки данных часто требует написания специфического кода для каждого случая. Авторы работы предлагают переосмыслить подход к интерпретируемости через призму управления данными, превращая процесс получения объяснений в выполнение структурированных запросов. Это позволяет исследователям гибко настраивать глубину и тип анализа без переписывания архитектуры модели.
Разработка базируется на принципах декларативного программирования, где пользователь описывает желаемый результат, а система оптимизирует процесс его извлечения. Такой подход особенно эффективен для аудита моделей в высоконагруженных системах, где требуется быстрая проверка логики принятия решений. Метод обеспечивает единообразие при работе с различными типами объяснений, снижая порог входа для внедрения инструментов интерпретируемости в производственные процессы.
Ключевые факты
- ExplAIner разработан как декларативный язык для унификации методов объяснения предсказаний ML-моделей.
- Фреймворк ориентирован на работу с булевыми моделями, обеспечивая стандартизированный интерфейс для анализа.
- Решение позволяет комбинировать различные метрики объяснимости, которые ранее требовали разрозненных инструментов реализации.
- Работа представлена в рамках академического исследования по управлению данными для задач интерпретируемого ИИ.