arXiv · 02.07.2026 ·Машинное обучение

OrbitQuant: новый метод квантования для диффузионных трансформеров

Исследователи представили OrbitQuant — метод посттренировочного квантования (PTQ), оптимизирующий работу диффузионных трансформеров (DiT) без необходимости подстройки под конкретные данные. Решение устраняет проблему нестабильности активаций при смене временных шагов и промптов, позволяя значительно ускорить инференс тяжелых моделей для генерации изображений и видео без потери качества и переобучения под каждую новую архитектуру.

Основная сложность существующих методов квантования для DiT заключается в динамическом изменении активаций в зависимости от параметров генерации. Традиционные подходы требуют калибровки на специфических наборах данных для каждой модели, что делает процесс внедрения трудоемким. OrbitQuant предлагает универсальный подход, который адаптируется к архитектурным особенностям трансформеров, сохраняя точность аппроксимации весов при сжатии модели.

Технология ориентирована на снижение вычислительных затрат при развертывании генеративных систем. За счет исключения этапа перекалибровки метод позволяет эффективно масштабировать использование DiT-моделей в продакшене, сокращая требования к памяти и ускоряя генерацию контента. Это делает возможным запуск высокопроизводительных моделей на менее мощном оборудовании без существенного снижения визуального качества результатов.

Ключевые факты

OrbitQuant разработан как метод data-agnostic, не требующий калибровки на специфических данных для каждой новой модели.
Метод решает проблему дрейфа активаций, возникающего при изменении временных шагов (timesteps) и условий промптов в диффузионных трансформерах.
Технология применима как для генерации изображений, так и для видео, сохраняя высокую точность при сжатии параметров.
Подход позволяет избежать повторного обучения или донастройки при смене чекпоинтов или модальностей генерации.

Источник: arXiv

Обсудить с ИИ

Похожие материалы

Lobsters · Инференс и железо TurboQuant ускоряет инференс моделей на 30% без потери точности Команда Baseten представила TurboQuant — метод оптимизации инференса, который ускоряет работу моделей на 30% без потери точности. Разработчики провели 31 час на математических выкладках, чтобы создать алгоритм, который автоматически выбирает оптимальные параметры квантования для различных моделей. Это особенно важно для агентов, где скорость обработки запросов напрямую влияет на пользовательский опыт. Hugging Face - Blog · Исследования и наука DiScoFormer: единая архитектура для оценки плотности и скоринга данных Исследователи из Allen Institute for AI представили DiScoFormer — архитектуру трансформера, способную одновременно моделировать плотность распределения данных и выполнять скоринг. В отличие от традиционных подходов, требующих раздельных моделей для генерации и оценки, этот метод позволяет эффективно работать с различными распределениями, объединяя задачи обучения плотности и оценки вероятностей в едином вычислительном процессе. arXiv · Исследования и наука Новый метод Reflow с выравниванием маргинальных распределений ускоряет генерацию моделей Исследователи представили метод Reflow с выравниванием маргинальных распределений (Marginal Distribution Alignment), направленный на ускорение генерации в диффузионных моделях. Новый подход решает проблему неточности дискретизации обыкновенных дифференциальных уравнений (ОДУ), позволяя сократить количество шагов выборки при сохранении высокого качества генерации, что критически важно для эффективного инференса современных генеративных систем. Hacker News · Оценка и бенчмарки DiffusionBench: комплексный бенчмарк для оценки диффузионных трансформеров Исследователи представили DiffusionBench — новый инструмент для всесторонней оценки генеративных диффузионных трансформеров (DiT). Проект предлагает стандартизированный подход к тестированию моделей, охватывая широкий спектр метрик качества генерации, эффективности вычислений и устойчивости архитектур. Это позволяет разработчикам объективно сравнивать современные подходы к созданию визуального контента и выявлять слабые места в текущих реализациях диффузионных моделей. The latest research from Google · Модели и релизы TurboQuant: алгоритмы для сверхкомпактных моделей Исследователи Google DeepMind представили TurboQuant — набор алгоритмов для экстремальной компрессии нейросетей. Технология позволяет сократить размер модели в 10–100 раз без потери точности, что критически важно для локального развёртывания ИИ-агентов. arXiv · Исследования и наука Безопасная авторегрессионная генерация изображений через итеративные кодбуки Исследователи представили метод повышения безопасности и качества авторегрессионных моделей генерации изображений. В отличие от диффузионных моделей, работающих в непрерывных пространствах, новый подход использует итеративно улучшаемые кодбуки для дискретизации визуальных токенов. Это позволяет точнее контролировать процесс генерации, минимизируя артефакты и повышая соответствие текстовым запросам за счет более эффективной архитектуры квантования визуальных паттернов. arXiv · Машинное обучение Оптимизация обучения диффузионных трансформеров через Spot-инстансы Исследователи представили метод Spotlight, направленный на снижение затрат при дообучении диффузионных трансформеров (DiT) с помощью обучения с подкреплением (RL). Традиционный процесс дообучения таких моделей требует использования тысяч высокопроизводительных графических процессоров, что делает его крайне ресурсоемким. Авторы работы предложили объединить два подхода: селекцию обучающих примеров (seed exploration) и использование спотовых инстансов облачных провайдеров. arXiv · Исследования и наука QuasiMoTTo: новый метод оптимизации вычислительных затрат при генерации ответов LLM Исследователи представили метод QuasiMoTTo, позволяющий повысить эффективность масштабирования вычислений при инференсе языковых моделей. Вместо независимой генерации множества вариантов ответа, которая приводит к избыточности, новый подход использует квазислучайные последовательности для более равномерного покрытия пространства решений. Это позволяет достичь более высокого качества ответов при тех же затратах вычислительных ресурсов или сократить время генерации. NVIDIA Technical Blog · Инференс и железо Квантование моделей для ускоренного инференса на NVIDIA TensorRT NVIDIA представила новый подход к квантованию моделей, позволяющий превращать FP8-чекпоинты в высокопроизводительные инференс-движки с использованием TensorRT. Этот метод оптимизирует модели для работы на графических процессорах, что особенно важно для разработчиков ИИ-агентов, где скорость и эффективность вычислений играют ключевую роль. arXiv · Инференс и железо LogbQuant: новый метод логарифмической квантования для оптимизации LLM Исследователи представили метод LogbQuant, который переводит квантование языковых моделей в логарифмическое пространство. В отличие от традиционных подходов с равномерным распределением весов, этот метод эффективнее обрабатывает высокоамплитудные веса с низкой частотой появления. Это позволяет значительно снизить требования к памяти и ускорить инференс моделей на потребительском оборудовании и edge-устройствах без существенной потери точности.

← Все материалы