Исследователи представили метод Selective Disclosure Watermarking, позволяющий выборочно раскрывать метаданные в водяных знаках LLM. В отличие от существующих решений, где проверка требует деанонимизации всей скрытой информации, новый подход дает возможность подтверждать отдельные атрибуты контента, сохраняя конфиденциальность остальных данных, что критически важно для верификации авторства и происхождения текста в корпоративных и правовых системах.
Традиционные методы маркировки текста часто сталкиваются с дилеммой: либо они просто подтверждают факт генерации модели, либо раскрывают весь объем встроенных метаданных при попытке проверки. Это ограничивает применение водяных знаков в сценариях, где необходимо доказать, например, принадлежность текста конкретной компании или версии модели, не раскрывая при этом чувствительную информацию о промптах или параметрах генерации.
Предложенная технология использует криптографические протоколы для управления доступом к скрытым сигналам. Это позволяет пользователям или системам верификации запрашивать подтверждение конкретных свойств контента, получая лишь «да» или «нет» по заданному критерию. Такой подход повышает гибкость внедрения ИИ-маркировки в бизнес-процессы, где требуется баланс между прозрачностью и защитой интеллектуальной собственности.
Ключевые факты
- Метод решает проблему «все или ничего» при проверке водяных знаков в текстах, сгенерированных LLM.
- Технология поддерживает выборочное раскрытие метаданных, что позволяет верифицировать отдельные атрибуты без деанонимизации всей встроенной информации.
- Подход базируется на криптографических схемах, обеспечивающих конфиденциальность при подтверждении авторства или происхождения контента.
- Разработка направлена на повышение безопасности и прозрачности использования генеративного ИИ в профессиональных средах.