Исследователи представили метод Jacobian Fingerprinting, позволяющий определять «авторство» языковых моделей через анализ их внутренних градиентов. Технология выявляет уникальные характеристики нейросетей, возникающие в процессе обучения, что помогает отслеживать происхождение контента и бороться с несанкционированным использованием весов моделей. Это решение предлагает новый подход к верификации ИИ-систем и защите интеллектуальной собственности разработчиков.
Метод базируется на вычислении якобиана модели — матрицы частных производных, которая отражает чувствительность выходных данных к изменениям входных параметров. В отличие от анализа текстовых паттернов, которые легко поддаются манипуляции или перефразированию, градиентные характеристики являются глубокими «отпечатками пальцев» архитектуры и весов конкретной модели. Такой подход позволяет идентифицировать модель даже при отсутствии прямого доступа к её API, основываясь на специфических ответах на калиброванные запросы.
Технология открывает возможности для аудита безопасности и контроля цепочек поставок в сфере генеративного ИИ. С ростом количества open-source моделей и их производных, возможность подтвердить, что конкретный сервис работает на базе определенной архитектуры, становится критически важной для соблюдения лицензионных соглашений и оценки рисков безопасности.
Ключевые факты
- Метод использует якобиан модели для создания уникального цифрового отпечатка, специфичного для конкретных весов и архитектуры.
- Технология позволяет проводить идентификацию «черного ящика» без необходимости полного доступа к исходному коду или обучающим данным.
- Подход устойчив к попыткам маскировки происхождения модели через пост-процессинг или перефразирование выходного текста.
- Инструмент ориентирован на разработчиков и исследователей, занимающихся вопросами защиты интеллектуальной собственности и верификации ИИ-систем.