Исследование выявило нестабильность работы инструмента SynthID в чат-интерфейсе Google Gemini. При анализе одного и того же контента в рамках одной сессии система выдает противоречивые результаты, классифицируя сгенерированный ИИ текст то как «вероятно созданный ИИ», то как «вероятно написанный человеком». Это ставит под сомнение надежность текущих методов маркировки контента.
SynthID — это технология цифрового водяного знака, внедряемая Google для идентификации медиафайлов и текстов, созданных нейросетями. Основная задача системы заключается в обеспечении прозрачности и борьбе с дезинформацией. Однако текущие тесты показывают, что алгоритм крайне чувствителен к контексту и изменениям в структуре диалога, что приводит к ложноположительным и ложноотрицательным результатам.
Подобная вариативность результатов затрудняет использование детектора как инструмента для верификации контента в профессиональной среде. Разработчики продолжают совершенствовать методы встраивания невидимых меток, но проблема их устойчивости к редактированию и интерпретации остается открытой для всей индустрии генеративного ИИ.
Ключевые факты
- Технология SynthID использует скрытые водяные знаки для идентификации контента, созданного моделями Gemini.
- В ходе тестирования один и тот же фрагмент текста получал разные оценки достоверности в рамках одной чат-сессии.
- Нестабильность работы детектора проявляется при изменении контекста или повторных запросах к системе.
- Использование подобных инструментов в качестве единственного доказательства происхождения контента признано экспертами недостаточно надежным.