Исследование NewsGuard показало, что чат-бот Mistral AI повторяет ложную информацию в 50% случаев, когда его запрашивают о государственной пропаганде. В частности, речь идёт о дезинформации, связанной с войной в Украине и Иране.
Эксперты протестировали модель на 100 запросах, связанных с пропагандой. В половине случаев Mistral AI либо подтверждал ложные утверждения, либо не мог их опровергнуть.
NewsGuard отмечает, что такие результаты могут быть опасными, так как пользователи могут воспринимать ответы ИИ как достоверные. Компания Mistral AI пока не комментировала исследование.
Эксперты рекомендуют пользователям быть осторожными при использовании чат-ботов для проверки информации, особенно в контексте государственной пропаганды.