Meta (признана экстремистской организацией, деятельность запрещена в РФ) запускает функцию мониторинга диалогов подростков с ИИ-ассистентом. Система анализирует контекст общения на предмет признаков эмоционального стресса, депрессии или тревожных состояний. При обнаружении рисков компания будет направлять уведомления родителям, предоставляя им инструменты для поддержки ребенка и рекомендации по обращению к специалистам в области психического здоровья.
Разработка направлена на повышение безопасности несовершеннолетних пользователей в цифровой среде. Алгоритмы классификации текста обучены выявлять паттерны, характерные для кризисных ситуаций, не нарушая при этом общую конфиденциальность переписки. Внедрение функции сопровождается обновлением политики безопасности, которая ограничивает доступ к определенным типам контента для пользователей младше 18 лет.
Инициатива является частью стратегии компании по созданию контролируемой среды взаимодействия с генеративными моделями. Помимо уведомлений, Meta интегрирует в интерфейс Meta AI прямые ссылки на горячие линии психологической помощи и образовательные материалы для родителей. Подобные меры призваны снизить потенциальные риски, связанные с длительным взаимодействием подростков с ИИ-агентами без надлежащего контроля.
Ключевые факты
- Система анализирует диалоги в режиме реального времени для выявления маркеров эмоционального неблагополучия.
- Уведомления родителям включают рекомендации по оказанию поддержки и контакты профильных организаций.
- Обновление затрагивает все платформы, где интегрирован Meta AI, включая Instagram (принадлежит Meta, признанной экстремистской и запрещённой в РФ).
- Компания вводит дополнительные ограничения на генерацию контента, который может негативно влиять на психическое состояние несовершеннолетних.