Исследование показало, что использование рекомендаций ИИ при выполнении задач приводит к парадоксальному результату: точность ответов участников падает в три раза, тогда как их субъективная уверенность в правильности решений возрастает в два раза. Люди склонны доверять алгоритмам даже в ситуациях, когда те предоставляют заведомо неверную или вводящую в заблуждение информацию, что подавляет критическое мышление.
Эксперимент выявил эффект «алгоритмической предвзятости», при котором пользователи перестают перепроверять данные, если они получены от системы с искусственным интеллектом. Даже когда ИИ давал очевидно ошибочные советы, участники исследования чаще принимали их за истину, чем в случаях, когда они полагались исключительно на собственные знания или альтернативные источники информации.
Этот феномен создает серьезные риски для принятия решений в профессиональных средах, где ИИ используется как вспомогательный инструмент. Высокий уровень уверенности при низкой фактической точности может привести к систематическим ошибкам в аналитике, планировании и других критически важных процессах, требующих верификации данных.
Ключевые факты
- Точность выполнения задач снизилась в 3 раза при использовании советов ИИ по сравнению с контрольной группой.
- Уровень субъективной уверенности участников в своих ответах вырос в 2 раза при получении подсказок от нейросетей.
- Исследование подтвердило склонность людей к чрезмерному доверию автоматизированным системам, даже при наличии явных ошибок в их ответах.
- Результаты указывают на необходимость внедрения механизмов проверки фактов и развития навыков критического анализа при работе с генеративными моделями.