Компания Meta (признана экстремистской организацией, деятельность запрещена в РФ) отключила спорную функцию в своей модели Muse Image, позволявшую создавать ИИ-изображения реальных людей через упоминание их аккаунтов в Instagram (принадлежит Meta, признанной экстремистской и запрещённой в РФ). Инструмент работал без согласия владельцев профилей, что вызвало волну критики и привело к его немедленному удалению спустя несколько дней после анонса.
Функционал был представлен как способ быстрого создания визуального контента, однако механизм работы вызвал серьезные опасения в области приватности и безопасности. Пользователям достаточно было указать публичный никнейм в социальной сети, чтобы модель сгенерировала изображение человека. В официальном заявлении представители компании признали, что реализация этой возможности была ошибочной и не соответствовала стандартам защиты данных.
Инцидент подчеркивает растущую сложность балансировки между инновациями в генеративном ИИ и этическими нормами использования персональных данных. Разработчики все чаще сталкиваются с необходимостью внедрения строгих механизмов верификации согласия при работе с публичными профилями, чтобы избежать репутационных рисков и нарушений прав пользователей на изображение.
Ключевые факты
- Функция позволяла генерировать изображения пользователей по их публичному тегу в Instagram.
- Инструмент был удален через несколько дней после официального анонса из-за массовой критики.
- Meta признала, что запуск функции был ошибкой и не учитывал вопросы конфиденциальности.
- Основная претензия заключалась в отсутствии механизма получения согласия от владельцев аккаунтов на использование их внешности.