Hacker News · 10.08.2026 ·Безопасность и алайнмент

Метод статистического водяного знака для идентификации текста от LLM

Исследователи представили алгоритм внедрения статистических водяных знаков в выходные данные больших языковых моделей. Метод позволяет с высокой точностью определять, был ли текст сгенерирован ИИ, не влияя при этом на качество и связность ответов. Технология основана на модификации процесса выбора токенов во время инференса, что делает детектирование возможным даже при ограниченном объеме текста.

Основная идея заключается в разделении словаря токенов на две группы — «зеленые» и «красные» списки — на основе хеш-функции от предыдущего контекста. В процессе генерации модель отдает предпочтение токенам из «зеленого» списка. При проверке текста алгоритм анализирует частоту появления токенов из этих списков: если их распределение статистически значимо отклоняется от случайного в пользу «зеленых», система с высокой вероятностью классифицирует контент как машинный.

Такой подход решает проблему верификации контента без необходимости хранения огромных баз данных с оригинальными текстами. В отличие от методов, требующих дообучения моделей или использования внешних классификаторов, данный алгоритм интегрируется непосредственно в процесс генерации. Это обеспечивает устойчивость к попыткам обхода защиты через перефразирование, так как статистический след сохраняется даже при частичном изменении структуры предложений.

Ключевые факты

Метод использует хеширование предыдущего токена для динамического определения разрешенных списков слов в процессе генерации.
Статистический тест позволяет обнаружить водяной знак даже в коротких фрагментах текста, где другие методы детектирования показывают низкую эффективность.
Технология не требует изменения архитектуры модели или дополнительного обучения, работая на этапе декодирования.
Алгоритм демонстрирует высокую устойчивость к атакам, основанным на замене слов или перефразировании сгенерированного контента.

Источник: Hacker News

Обсудить с ИИ

Похожие материалы

Hacker News · Машинное обучение Детектирование ИИ-текстов с помощью классического машинного обучения Исследователи предложили эффективный метод идентификации текстов, созданных LLM, используя классические алгоритмы машинного обучения вместо сложных нейросетевых классификаторов. Подход базируется на анализе статистических закономерностей и лингвистических особенностей, что позволяет достичь высокой точности определения контента, сгенерированного современными языковыми моделями, при значительно меньших вычислительных затратах и требованиях к обучающей выборке. arXiv · Исследования и наука Новый метод локализации ИИ-сгенерированного текста в совместных документах Исследователи представили новый метод для точного определения фрагментов текста, созданных языковыми моделями в документах с совместным авторством человека и ИИ. В отличие от существующих решений, которые классифицируют весь документ целиком, предложенный подход позволяет локализовать конкретные токены, сгенерированные алгоритмами, что критически важно для проверки подлинности контента и обеспечения прозрачности в процессах совместной работы. Hacker News · Безопасность и алайнмент Почему текстовые ИИ-водяные знаки неэффективны против удаления Технологии встраивания водяных знаков в текст, генерируемый нейросетями, остаются уязвимыми для простых методов обхода. Исследование показывает, что даже незначительное перефразирование, использование синонимов или машинный перевод позволяют полностью стереть статистические следы модели. Это ставит под сомнение надежность существующих методов верификации контента и идентификации авторства ИИ в условиях реального использования. arXiv · Безопасность и алайнмент Новый метод защиты контента LLM через двойное семантическое водяное знакование Исследователи представили метод Dual-Embedding Watermarking (DEW), повышающий устойчивость водяных знаков в текстах, сгенерированных большими языковыми моделями. В отличие от стандартных подходов, DEW использует комбинацию токеновых и контекстных эмбеддингов. Это позволяет сохранять идентификационный сигнал даже после глубокого перефразирования или машинного перевода, что критически важно для верификации авторства ИИ-контента. Hacker News · Безопасность и алайнмент Идентификация LLM по распределению вероятностей одного токена Исследователи представили метод «цифровых отпечатков» для больших языковых моделей, позволяющий идентифицировать конкретную модель по распределению вероятностей вывода всего одного токена. Техника использует уникальные различия в логитах, возникающие из-за особенностей обучения и архитектурных настроек, что позволяет с высокой точностью определять источник генерации текста даже при минимальном объеме данных. arXiv · Безопасность и алайнмент Selective Disclosure Watermarking: новый метод маркировки текста LLM Исследователи представили метод Selective Disclosure Watermarking, позволяющий выборочно раскрывать метаданные в водяных знаках LLM. В отличие от существующих решений, где проверка требует деанонимизации всей скрытой информации, новый подход дает возможность подтверждать отдельные атрибуты контента, сохраняя конфиденциальность остальных данных, что критически важно для верификации авторства и происхождения текста в корпоративных и правовых системах. arXiv · Машинное обучение Новый метод идентификации языка на основе композиционного анализа данных Исследователи представили эффективный метод определения языка текста, использующий принципы композиционного анализа данных и логарифмически-отношенную геометрию. В отличие от тяжеловесных нейросетевых архитектур, требующих значительных вычислительных мощностей, предложенный классификатор работает за линейное время, обеспечивая высокую точность при минимальных затратах ресурсов, что делает его оптимальным решением для обработки потоковых данных и задач с ограниченным бюджетом вычислений. Hacker News · Безопасность и алайнмент Метод обфускации кода для защиты от анализа с помощью LLM Исследователи представили новый подход к защите исходного кода от анализа с помощью больших языковых моделей. Метод использует состязательную обфускацию, которая делает код нечитаемым или вводящим в заблуждение для ИИ-агентов, при этом сохраняя его функциональность для компиляторов. Это решение направлено на предотвращение автоматизированного реверс-инжиниринга и кражи интеллектуальной собственности, выполняемых с помощью LLM. Hacker News · Безопасность и алайнмент OpenStamp: метод водяных знаков для моделей с открытыми весами Исследователи представили OpenStamp — метод внедрения невидимых водяных знаков в ответы LLM с открытыми весами. Технология позволяет верифицировать авторство текста, сохраняя при этом высокое качество генерации и устойчивость к попыткам удаления меток. Решение направлено на решение проблемы идентификации контента, созданного моделями, которые не контролируются централизованно через API, что критично для безопасности и борьбы с дезинформацией. Hacker News · Обучение и дообучение Дообучение компактных моделей для упрощения текста с помощью верификаторов Исследователи представили метод дообучения небольших языковых моделей для задач упрощения текста, используя систему простых верификаторов. Подход позволяет значительно повысить качество генерации ответов, сохраняя при этом высокую скорость работы модели. Использование специализированных проверочных механизмов помогает минимизировать галлюцинации и обеспечивать соответствие выходного текста заданным критериям сложности без необходимости привлечения огромных вычислительных мощностей.

← Все материалы