Новое исследование, опубликованное на arXiv, анализирует склонность детей приписывать человеческие качества ИИ-чат-ботам. Авторы работы изучили, как взаимодействие с LLM влияет на когнитивное восприятие технологий у несовершеннолетних пользователей. Результаты показывают, что дети часто воспринимают алгоритмы как обладающих сознанием, эмоциями и личным опытом существ, что создает новые вызовы для разработчиков и родителей в контексте цифровой безопасности.
В ходе эксперимента исследователи наблюдали за тем, как дети в возрасте от 7 до 12 лет выстраивают диалог с моделями. Выяснилось, что использование естественного языка и имитация эмпатии со стороны чат-бота провоцируют у детей формирование глубокой эмоциональной привязанности. Участники исследования чаще доверяли советам ИИ, если бот использовал личные местоимения и демонстрировал «человеческие» реакции на их сообщения.
Авторы подчеркивают, что подобный антропоморфизм может приводить к некритическому восприятию информации, выдаваемой моделью. Это особенно актуально в ситуациях, когда дети обращаются к ИИ за помощью в учебе или решением личных проблем. Исследование призывает к внедрению более прозрачных интерфейсов, которые бы напоминали пользователям о технической природе собеседника, не разрушая при этом пользовательский опыт.
Ключевые факты
- Исследование сфокусировано на возрастной группе детей от 7 до 12 лет.
- Основной маркер антропоморфизма — приписывание ботам сознания и эмоционального интеллекта.
- Эмпатичные ответы моделей повышают уровень доверия детей к предоставляемой информации.
- Работа подчеркивает необходимость разработки стандартов проектирования ИИ-интерфейсов для детской аудитории.
- Результаты опубликованы в препринте на платформе arXiv под номером 2607.18250.