Исследователи представили новый фреймворк для проектирования требований (Requirements Engineering, RE), ориентированный на обеспечение объяснимости ИИ-систем в критически важных отраслях. На примере Daimler Truck авторы проанализировали, как текущие инженерные практики справляются с необходимостью интерпретируемости моделей, и предложили структурированный подход для интеграции требований прозрачности на всех этапах жизненного цикла разработки сложных систем.
Проблема объяснимости (explainability) становится ключевым барьером при внедрении ИИ в регулируемых секторах, таких как автомобилестроение. Существующие методы часто остаются теоретическими, не учитывая специфику реальных производственных процессов. Работа фокусируется на том, как именно инженеры могут формализовать требования к «прозрачности» алгоритмов, чтобы они соответствовали стандартам безопасности и ожиданиям конечных пользователей.
Предложенный фреймворк синтезирует эмпирические данные, полученные в ходе анализа рабочих процессов Daimler Truck. Он помогает командам переходить от абстрактных пожеланий к конкретным техническим спецификациям, которые можно тестировать и валидировать. Это позволяет снизить риски при развертывании моделей в средах, где цена ошибки крайне высока, а требования регуляторов к отчетности постоянно ужесточаются.
Ключевые факты
- Исследование базируется на анализе практик проектирования требований в компании Daimler Truck.
- Фреймворк направлен на решение проблемы разрыва между теоретическими методами объяснимости и реальными инженерными процессами.
- Основное внимание уделено safety-critical системам, где прозрачность принятия решений ИИ является обязательным условием сертификации.
- Предложенный подход позволяет интегрировать требования к объяснимости на ранних стадиях разработки, а не как постфактум-дополнение к готовой модели.