Исследователи представили новый метод улучшения генеративных способностей диффузионных моделей, позволяющий эффективнее охватывать редкие и недостаточно представленные данные. Техника использует температурное сэмплирование в сочетании с коррекцией дисперсии во времени, что помогает сгладить доминирующие моды распределения и повысить вероятность генерации редких объектов без потери качества изображений.
Стандартные диффузионные модели склонны точно воспроизводить обучающую выборку, из-за чего часто игнорируют малочисленные классы или редкие сценарии. Применение высоких температур при сэмплировании обычно приводит к искажению структуры данных, однако предложенный подход с коррекцией временного сдвига (variance-corrective time shifting) позволяет нивелировать эти артефакты. Это дает возможность гибко управлять разнообразием выходных данных на этапе инференса.
Метод не требует переобучения существующих моделей, что делает его удобным инструментом для донастройки генерации «на лету». Авторы продемонстрировали, что предложенная математическая схема позволяет достичь более сбалансированного распределения результатов, сохраняя при этом высокую визуальную точность, характерную для базовых моделей.
Ключевые факты
- Метод основан на манипуляции целевым распределением $p^{(γ)}_0(x) \propto p_0(x)^γ$ при значениях температуры $0 < γ < 1$.
- Предложенная техника коррекции дисперсии устраняет ошибки, возникающие при простом масштабировании оценок (score scaling).
- Решение позволяет повысить представленность редких мод в генерации без необходимости изменения весов нейросети.
- Подход применим к широкому спектру существующих диффузионных архитектур на этапе инференса.