Исследователи выявили фундаментальную проблему в обучении диффузионных моделей: низкая ошибка аппроксимации score-функции на прямой траектории не гарантирует численной стабильности при обратном сэмплировании. Авторы доказали, что даже при минимальной L2-ошибке на маргинальных распределениях, процесс генерации может приводить к расходимости, что ставит под сомнение надежность существующих методов оценки качества обучения моделей.
В работе продемонстрировано, что стандартный подход к обучению через score matching контролирует среднюю ошибку только вдоль прямой траектории диффузии. Однако алгоритмы сэмплирования, работающие в обратном времени, отклоняются от этих траекторий, попадая в области пространства, где ошибка модели может резко возрастать. Это приводит к нестабильности численных методов решения стохастических дифференциальных уравнений, используемых для генерации изображений или данных.
Авторы подчеркивают, что текущие метрики качества, основанные на точности score-функции, недостаточно полно отражают поведение модели в процессе генерации. Для решения проблемы предлагается пересмотреть подходы к дискретизации обратного процесса, чтобы обеспечить устойчивость траекторий даже в условиях потенциально неточных градиентных полей, что критически важно для повышения качества генерации в сложных задачах.
Ключевые факты
- Доказано, что малая L2-ошибка на прямой траектории не является достаточным условием для численной стабильности обратного процесса.
- Выявлено, что даже при гладких score-полях с минимальной ошибкой аппроксимации, процесс сэмплирования может демонстрировать непредсказуемое поведение.
- Исследование указывает на необходимость разработки новых методов оценки, учитывающих динамику сэмплирования, а не только статическую точность градиентов.
- Работа ставит под вопрос надежность существующих бенчмарков, полагающихся исключительно на оценку точности score matching.