Исследователи проанализировали точность генеративных моделей при работе с исламскими текстами, включая Коран, хадисы и фикх. Работа выявила критические проблемы с галлюцинациями и достоверностью источников, что ставит под сомнение использование текущих систем ИИ в качестве надежных инструментов для религиозного образования и принятия правовых решений в условиях высокой ответственности и необходимости строгой верификации данных.
Авторы работы провели эмпирическую оценку того, насколько современные LLM способны корректно интерпретировать сложные теологические концепции. Основной акцент был сделан на проверке фактов и соответствии ответов каноническим источникам. Результаты показывают, что модели часто склонны к генерации правдоподобно звучащих, но фактически неверных или искаженных интерпретаций, что создает серьезные риски при использовании ИИ для получения религиозных наставлений.
Исследование подчеркивает разрыв между широким распространением ИИ-ассистентов в повседневной жизни мусульман и их реальной способностью работать с чувствительным контентом, требующим высокой точности. Полученные данные указывают на необходимость разработки специализированных методов оценки и дообучения моделей для работы с узкоспециализированными и догматическими базами знаний, где цена ошибки крайне высока.
Ключевые факты
- Исследование сфокусировано на трех ключевых областях: интерпретации Корана, объяснении хадисов и вынесении правовых норм (фикх).
- Выявлена высокая частота галлюцинаций, при которых модели приписывают ложные высказывания или неверно цитируют первоисточники.
- Работа подтверждает, что текущие архитектуры LLM не обладают достаточным уровнем «верности источнику» (source fidelity) для автономного использования в теологическом контексте.
- Авторы призывают к созданию специализированных бенчмарков для проверки ИИ на соответствие религиозным канонам перед их внедрением в образовательные и консультационные сервисы.