Исследователи представили TILDE (TILt-based Distributional Erasure) — новый метод «забывания» концептов в диффузионных моделях генерации изображений. Технология позволяет эффективно удалять нежелательные объекты или стили из обученных моделей, сохраняя при этом общее качество генерации и избегая деградации весов, что критически важно для соблюдения авторских прав, защиты приватности и соответствия стандартам безопасности при развертывании систем.
Традиционные подходы к удалению концептов часто сталкиваются с проблемой «катастрофического забывания» или неполного удаления, когда модель продолжает генерировать запрещенные образы при определенных запросах. Метод TILDE использует распределительное стирание на основе наклона (tilt-based), что позволяет точечно воздействовать на конкретные области латентного пространства, связанные с нежелательным контентом, не затрагивая при этом способность модели генерировать другие объекты.
Данный подход обеспечивает более высокую точность по сравнению с существующими техниками fine-tuning или переобучения. Он позволяет разработчикам оперативно реагировать на юридические претензии или требования регуляторов, исключая из генерации защищенные товарные знаки или конфиденциальные данные без необходимости полного переобучения нейросети с нуля, что значительно экономит вычислительные ресурсы.
Ключевые факты
- Метод TILDE фокусируется на удалении концептов в диффузионных моделях генерации изображений.
- Технология решает проблемы авторских прав, приватности и соблюдения регуляторных требований.
- Подход минимизирует побочные эффекты, сохраняя общую производительность модели после удаления концепта.
- Метод позволяет избежать дорогостоящего переобучения всей модели при необходимости внесения правок в контентную политику.