Исследование показало, что взаимодействие с ИИ-системами снижает вероятность того, что люди признаются в отсутствии знаний по конкретному вопросу. Пользователи склонны доверять сгенерированным ответам, даже если они не уверены в их точности, что создает эффект «иллюзии компетентности». Это явление меняет привычные паттерны коммуникации и критического мышления в профессиональной и учебной среде.
В ходе экспериментов участники, имевшие доступ к ИИ-ассистентам, реже задавали уточняющие вопросы и чаще принимали ответы модели как окончательную истину. Авторы работы отмечают, что подобное поведение связано с когнитивной разгрузкой: когда инструмент предоставляет готовое решение, потребность в самостоятельной проверке фактов или признании пробелов в знаниях снижается. Это создает риски для принятия решений, основанных на неверных или галлюцинирующих данных.
Феномен также затрагивает социальный аспект: люди боятся выглядеть менее компетентными на фоне «всезнающего» ИИ, поэтому предпочитают не демонстрировать свою неосведомленность. В долгосрочной перспективе это может привести к деградации навыков критического анализа и снижению качества экспертной оценки в рабочих процессах, где ИИ используется как основной источник информации.
Ключевые факты
- Исследование подтвердило корреляцию между использованием LLM и снижением частоты признаний в некомпетентности.
- Пользователи демонстрируют повышенную уверенность в ответах ИИ, что подавляет их склонность к проверке фактов.
- Эффект «иллюзии компетентности» усиливается при работе с интерфейсами, которые подают информацию в утвердительной форме.
- Снижение критического отношения к ответам ИИ напрямую влияет на качество принимаемых решений в профессиональных задачах.