Исследователи представили Saga — метод для определения архитектуры нейросети, создавшей конкретное видео. Система анализирует уникальные «цифровые отпечатки», оставляемые моделями при генерации, что позволяет с высокой точностью атрибутировать контент. Это решение критически важно для борьбы с дипфейками и обеспечения прозрачности в эпоху повсеместного распространения синтетического видеоконтента, позволяя отслеживать происхождение материалов в автоматическом режиме.
Технология фокусируется на выявлении специфических артефактов, которые возникают из-за особенностей архитектуры и процессов обучения различных генеративных моделей. В отличие от предыдущих подходов, которые часто полагались на метаданные или водяные знаки, легко удаляемые злоумышленниками, Saga анализирует внутренние визуальные закономерности, присущие конкретным генераторам. Это делает метод устойчивым к пост-обработке, сжатию и изменению разрешения видео.
Разработка открывает новые возможности для платформ, стремящихся модерировать контент и маркировать сгенерированные ролики. Авторы метода протестировали его на широком спектре популярных моделей, подтвердив способность системы различать видео, созданные на базе схожих диффузионных архитектур. Внедрение подобных инструментов может стать стандартом для верификации медиафайлов в социальных сетях и новостных агрегаторах.
Ключевые факты
- Метод Saga позволяет идентифицировать модель-генератор даже после существенного сжатия видео или изменения его формата.
- Алгоритм опирается на анализ визуальных паттернов, которые являются уникальными для каждой архитектуры нейросети.
- Исследование направлено на решение проблемы атрибуции контента и повышения доверия к цифровым медиа.
- Система успешно прошла тестирование на актуальных моделях генерации видео, демонстрируя высокую точность классификации.