Hacker News · 30.07.2026 ·Безопасность и алайнмент

Новый метод защиты контента от парсинга ИИ через отравленные шрифты

Разработчики представили инструмент Glaze-подобного типа, который защищает текстовый контент от несанкционированного обучения ИИ-моделей. Технология использует специально модифицированные шрифты, которые визуально остаются читаемыми для людей, но при попытке автоматизированного парсинга и распознавания текста (OCR) выдают искаженные данные, делая собранный датасет непригодным для качественного обучения нейросетей.

Метод основан на внедрении «шума» в глифы шрифта, который сбивает алгоритмы компьютерного зрения. В отличие от традиционных методов блокировки по IP или файлам robots.txt, этот подход работает на уровне визуального представления данных, что делает его эффективным против агрессивных скраперов, имитирующих поведение обычных пользователей браузеров.

Эта разработка открывает новые возможности для защиты интеллектуальной собственности авторов и издателей, чьи материалы массово используются для обучения больших языковых моделей без согласия правообладателей. Подобные решения создают барьер для автоматизированного сбора данных, вынуждая разработчиков ИИ искать способы фильтрации «отравленных» данных, что существенно усложняет и удорожает процесс подготовки качественных обучающих выборок.

Ключевые факты

Технология использует модифицированные шрифты, которые визуально не отличаются от стандартных для человека.
Метод направлен на срыв работы систем оптического распознавания символов (OCR), используемых при парсинге веб-страниц.
Решение позволяет авторам контента защищать свои тексты от несанкционированного включения в обучающие датасеты LLM.
Подход является ответом на проблему бесконтрольного сбора данных с открытых ресурсов для коммерческих ИИ-проектов.

Источник: Hacker News

Обсудить с ИИ

Похожие материалы

Hacker News · Безопасность и алайнмент Новый метод защиты вредоносного ПО от анализа с помощью ИИ Исследователи обнаружили новый метод противодействия автоматизированному анализу вредоносного кода с помощью LLM. Злоумышленники начали внедрять в исполняемые файлы фрагменты текста, которые вызывают срабатывание фильтров безопасности или политик использования ИИ-моделей. Это заставляет инструменты анализа блокировать обработку кода, что затрудняет автоматическую детекцию угроз и замедляет работу специалистов по кибербезопасности. Digiday · Безопасность и алайнмент LLM-ханипоты: как издатели защищают контент от несанкционированного скрапинга Издатели и e-commerce площадки начали внедрять технологию «LLM-ханипотов» для защиты своего контента от несанкционированного сбора данных ИИ-моделями. Метод заключается в создании скрытых ловушек, которые распознают автоматизированных ботов-краулеров и блокируют их доступ, предотвращая использование интеллектуальной собственности для обучения нейросетей без согласия правообладателей. arXiv · Машинное обучение Устранение уязвимости CLIP к типографическим атакам без дообучения Исследователи представили метод повышения устойчивости CLIP-моделей к типографическим атакам, при которых случайный текст на изображении искажает интерпретацию визуальных данных. Новый подход позволяет локализовать концепты без необходимости переобучения модели, эффективно отделяя семантическое влияние текста от визуальных признаков. Это решение критически важно для корректной работы современных мультимодальных систем, использующих CLIP в качестве базового визуального энкодера. arXiv · Исследования и наука Новый метод локализации ИИ-сгенерированного текста в совместных документах Исследователи представили новый метод для точного определения фрагментов текста, созданных языковыми моделями в документах с совместным авторством человека и ИИ. В отличие от существующих решений, которые классифицируют весь документ целиком, предложенный подход позволяет локализовать конкретные токены, сгенерированные алгоритмами, что критически важно для проверки подлинности контента и обеспечения прозрачности в процессах совместной работы. Hacker News · Безопасность и алайнмент Новый метод MIT для выявления моделей, обученных на запрещенном контенте Исследователи MIT разработали метод обнаружения моделей, которые обучались на изображениях жестокого обращения с детьми (CASM), не требуя при этом генерации самого контента. Технология анализирует веса нейросети и выявляет специфические паттерны, оставшиеся после обучения на нелегальных датасетах, что позволяет проверять безопасность ИИ-моделей до их публичного развертывания. Hacker News · ИИ в маркетинге Альтернатива детекторам ИИ: верификация авторства через запись процесса письма Вместо попыток обучить нейросети распознавать сгенерированный контент, авторы проекта HumanWroteThis предлагают фиксировать процесс создания текста в реальном времени. Инструмент записывает каждое нажатие клавиши и движение курсора, создавая воспроизводимую историю написания документа. Это позволяет подтвердить, что текст был создан человеком, а не сгенерирован ИИ-моделью, обеспечивая прозрачность авторства в академической и профессиональной среде. arXiv · Безопасность и алайнмент Selective Disclosure Watermarking: новый метод маркировки текста LLM Исследователи представили метод Selective Disclosure Watermarking, позволяющий выборочно раскрывать метаданные в водяных знаках LLM. В отличие от существующих решений, где проверка требует деанонимизации всей скрытой информации, новый подход дает возможность подтверждать отдельные атрибуты контента, сохраняя конфиденциальность остальных данных, что критически важно для верификации авторства и происхождения текста в корпоративных и правовых системах. Hacker News · Безопасность и алайнмент Метод обфускации кода для защиты от анализа с помощью LLM Исследователи представили новый подход к защите исходного кода от анализа с помощью больших языковых моделей. Метод использует состязательную обфускацию, которая делает код нечитаемым или вводящим в заблуждение для ИИ-агентов, при этом сохраняя его функциональность для компиляторов. Это решение направлено на предотвращение автоматизированного реверс-инжиниринга и кражи интеллектуальной собственности, выполняемых с помощью LLM. Hacker News · Исследования и наука Инструменты для «очеловечивания» текста снижают точность детекторов ИИ Исследователи проанализировали эффективность специализированных инструментов, предназначенных для маскировки ИИ-сгенерированного контента. Эти сервисы перефразируют текст, изменяя статистические закономерности, на которые опираются детекторы. В результате точность систем распознавания ИИ-текста существенно падает, что создает серьезные проблемы для академической среды и платформ, требующих верификации авторства контента в условиях растущей доступности генеративных моделей. Hacker News · ИИ в бизнесе Cloudflare запускает блокировку ИИ-скрейперов для защиты рекламных доходов Cloudflare представила инструмент для автоматической блокировки поисковых ботов и парсеров, которые собирают контент для обучения ИИ-моделей без компенсации владельцам сайтов. Новая функция позволяет владельцам ресурсов с рекламной моделью монетизации ограничивать доступ ботам, которые не приносят прямой пользы трафику или поисковой выдаче, защищая тем самым доходы от показа объявлений.

← Все материалы