Исследователи проанализировали более 15 000 пользовательских отзывов о 59 медицинских ИИ-приложениях, чтобы оценить их эффективность в реальных условиях. Работа выявила критические сбои в предоставлении информации и эмоциональной поддержке, подчеркивая разрыв между ожиданиями пациентов и текущими возможностями алгоритмов при решении задач, связанных со здоровьем и самочувствием пользователей в повседневной жизни.
Авторы работы использовали методы тематического моделирования и интерпретативного анализа для классификации проблем, с которыми сталкиваются люди при взаимодействии с медицинскими чат-ботами. Исследование показывает, что системы часто не справляются с контекстуальными запросами, требующими высокой точности и эмпатии, что ставит под вопрос их надежность как полноценной информационной инфраструктуры для здравоохранения.
Полученные данные указывают на необходимость пересмотра подходов к проектированию медицинских ИИ-интерфейсов. Разработчикам рекомендуется уделять больше внимания обработке сложных клинических сценариев и верификации данных, так как ошибки в этой сфере напрямую влияют на доверие пользователей и безопасность их решений, принимаемых на основе рекомендаций чат-ботов.
Ключевые факты
- Изучено 15 000+ отзывов пользователей о 59 различных приложениях с ИИ-чат-ботами в сфере здравоохранения.
- Анализ сфокусирован на выявлении сбоев в работе систем при решении информационных и эмоциональных задач.
- Исследование подтверждает, что текущие модели часто демонстрируют низкую эффективность в специфических медицинских контекстах.
- Работа подчеркивает критическую важность надежности ИИ при использовании его в качестве инструмента для самодиагностики и управления здоровьем.