Компания Meta (признана экстремистской организацией, деятельность запрещена в РФ) внедрила технологию Content Seal для маркировки изображений, созданных собственными генеративными моделями. Система использует невидимые водяные знаки для идентификации ИИ-контента на своих платформах, включая Instagram (принадлежит Meta, признанной экстремистской и запрещённой в РФ). Инициатива стала ответом на требования наблюдательного совета компании по борьбе с распространением вводящих в заблуждение материалов.
Технология Content Seal представляет собой метод встраивания метаданных непосредственно в пиксели изображения, что позволяет отслеживать происхождение контента даже после его редактирования или сжатия. Несмотря на усилия компании, эксперты отмечают ограниченность подхода: водяные знаки Meta несовместимы с аналогичными решениями других разработчиков, такими как SynthID от Google. Это создает проблему фрагментации стандартов в индустрии, где каждая компания развивает собственный закрытый протокол детекции.
Отсутствие единого отраслевого стандарта затрудняет автоматическую проверку контента на сторонних ресурсах. В то время как Google активно продвигает открытые спецификации для маркировки, Meta делает ставку на собственные проприетарные инструменты. Это вынуждает платформы полагаться на множество разрозненных систем, что снижает общую эффективность борьбы с дипфейками и неконтролируемым распространением синтетического медиаконтента в глобальной сети.
Ключевые факты
- Content Seal использует невидимые водяные знаки для идентификации изображений, созданных нейросетями Meta.
- Внедрение технологии стало реакцией на предписание наблюдательного совета компании от марта 2024 года.
- Технология Meta не поддерживает кросс-платформенную совместимость с решением SynthID от Google.
- Основная задача системы — автоматическое обнаружение и маркировка генеративного контента для предотвращения дезинформации.