Исследователи представили ModelDNA — новый метод идентификации происхождения моделей с открытыми весами, основанный на анализе их «генетического кода». Технология позволяет с высокой точностью определять, была ли конкретная модель дообучена на базе другой архитектуры, даже если были применены значительные изменения весов, что критически важно для контроля авторства и безопасности в экосистеме open-source ИИ.
Проблема верификации «родословной» моделей стала особенно острой с ростом популярности методов fine-tuning и слияния моделей (model merging). Традиционные методы цифровых водяных знаков часто удаляются при дообучении или квантовании. ModelDNA работает иначе: он извлекает уникальные статистические сигнатуры из весов нейросети, которые сохраняются даже после существенных модификаций, позволяя отследить цепочку поставок модели.
Этот подход открывает возможности для автоматизированного аудита моделей на платформах вроде Hugging Face. Разработчики могут подтверждать легитимность своих производных моделей, а компании — проверять, не является ли используемая ими open-weight модель несанкционированной копией проприетарной разработки. Метод устойчив к атакам типа «перемешивания» весов и другим попыткам скрыть истинное происхождение архитектуры.
Ключевые факты
- ModelDNA использует анализ статистических паттернов в весах для создания уникального «отпечатка» модели.
- Метод сохраняет эффективность после дообучения (fine-tuning), квантования и слияния нескольких моделей.
- Технология позволяет выявлять плагиат и несанкционированное использование архитектур в цепочках поставок ИИ.
- Исследование направлено на повышение прозрачности и безопасности в сегменте моделей с открытыми весами.