arXiv · 04.08.2026 ·Исследования и наука

Новый метод обучения GFlowNets через информационную геометрию

Исследователи представили новый подход к обучению прямых стратегий в Generative Flow Networks (GFlowNets) через призму информационной геометрии. Метод позволяет оптимизировать процесс сэмплирования траекторий, рассматривая стратегию как распределение вероятностей на пространстве путей. Это повышает эффективность обучения моделей, работающих с дискретными и смешанными данными, где требуется аппроксимация целевой плотности на основе заданных функций вознаграждения.

Традиционные подходы к GFlowNets часто сталкиваются с трудностями при масштабировании и стабильности обучения из-за сложности ландшафта целевых распределений. Авторы работы предлагают использовать геометрические свойства пространства параметров для более точного обновления стратегии. Такой подход минимизирует расхождение между текущей стратегией и оптимальным распределением, что ускоряет сходимость модели в задачах генеративного моделирования.

Математическая формулировка через информационную геометрию позволяет лучше контролировать процесс исследования пространства состояний. Это особенно важно для задач, где целевая плотность известна лишь с точностью до нормировочной константы, что типично для байесовского вывода и генерации молекулярных структур. Использование метрики Фишера в данном контексте обеспечивает более плавное и устойчивое обновление весов нейронной сети.

Ключевые факты

Предложен метод обучения GFlowNets, основанный на информационной геометрии индуцированного сэмплера траекторий.
Подход улучшает аппроксимацию целевых плотностей для дискретных и смешанных объектов.
Метод позволяет более эффективно использовать функции вознаграждения для обучения генеративных моделей.
Исследование направлено на повышение стабильности и скорости сходимости при работе с ненормированными распределениями.

Источник: arXiv

Обсудить с ИИ

Похожие материалы

arXiv · Машинное обучение FlowPipe: автоматизация пайплайнов подготовки данных с помощью GFlowNets и LLM Исследователи представили FlowPipe — новый метод автоматического построения пайплайнов подготовки данных для машинного обучения. Система объединяет генеративные потоковые сети (GFlowNets) с возможностями LLM для навигации в сложном комбинаторном пространстве операторов очистки и трансформации. Подход позволяет эффективно находить оптимальные последовательности преобразований, минимизируя затраты на дорогостоящую оценку качества данных на каждом этапе обучения модели. arXiv · Машинное обучение Новый метод обучения моделей с использованием потоковых карт для онлайн-поиска Исследователи представили метод Sequentially-Controlled Interactive Multi-Particle Flow-Maps (SCIM-Flow), предназначенный для оптимизации моделей в условиях неизвестных предпочтений. В отличие от стандартных подходов, которые ограничены локальным поиском, новый алгоритм использует динамические потоковые карты частиц для эффективного исследования пространства распределений, что позволяет модели адаптироваться к обратной связи в режиме реального времени и находить области с высокой полезностью. arXiv · Машинное обучение Новый метод One-Sided Quantile Coupling для оптимизации Flow Matching Исследователи представили метод One-Sided Quantile Coupling, повышающий эффективность обучения генеративных моделей на базе Flow Matching. Новый подход оптимизирует сопряжение между исходным распределением и целевыми данными, решая проблему вычислительной сложности традиционных методов оптимального транспорта. Это позволяет значительно ускорить сходимость модели и улучшить качество генерации при меньших затратах ресурсов. arXiv · Исследования и наука Expanding Generative Flows: новый метод генерации с переменной размерностью Исследователи представили Expanding Generative Flows (EFlows) — новый подход к генеративным моделям на основе потоков. В отличие от традиционных методов, ограниченных фиксированной размерностью данных или длиной последовательности, EFlows позволяют моделировать распределения с динамически увеличивающейся размерностью. Это открывает возможности для более гибкой и масштабируемой генерации в непрерывных и дискретных пространствах состояний. arXiv · Машинное обучение MeanFlowNFT: ускорение обучения диффузионных моделей через Reinforcement Learning Исследователи представили метод MeanFlowNFT, объединяющий генераторы на основе среднего потока (MeanFlow) с обучением с подкреплением (RL) в прямом процессе. Подход позволяет эффективно настраивать диффузионные модели под конкретные задачи и человеческие предпочтения, сохраняя высокую скорость генерации за счет прогнозирования средних скоростей на временных интервалах, что значительно сокращает количество необходимых шагов для получения качественного результата. arXiv · Машинное обучение Ускорение численного моделирования потоков с помощью графовых нейросетей Исследователи представили новый метод ускорения алгебраических многосеточных решателей (AMG), используемых для решения уравнения Пуассона при моделировании несжимаемых потоков. Традиционные линейные методы часто сталкиваются с вычислительными сложностями из-за неоднородности расчетных сеток, что делает их узким местом в инженерных расчетах. arXiv · Машинное обучение Новый взгляд на теорию плоских минимумов в глубоком обучении Исследователи поставили под сомнение устоявшееся в глубоком обучении представление о том, что стохастический градиентный спуск (SGD) естественным образом стремится к «плоским» минимумам функции потерь, которые обеспечивают лучшую обобщающую способность нейросетей. Основная проблема заключается в том, что традиционные метрики оценки плоскости, такие как след или максимальное собственное значение гессиана, зависят от конкретной параметризации модели. Это означает, что при изменении представления весов, не влияющем на итоговую функцию сети, показатели «плоскости» могут меняться, что делает их ненадежными инструментами для анализа. arXiv · Исследования и наука Фундаментальные ограничения оценки транспортных отображений в генеративных моделях Исследователи проанализировали теоретические пределы оценки транспортных отображений, лежащих в основе современных генеративных моделей, таких как диффузионные модели и flow matching. Работа доказывает, что при отсутствии явной оптимизации транспортных затрат возникают статистические ограничения, влияющие на точность аппроксимации распределений. Авторы предлагают новые подходы к выбору более эффективных и статистически устойчивых отображений для обучения нейросетей. arXiv · Машинное обучение Метод μFlow повышает точность обнаружения дипфейков через анализ усредненных изображений Исследователи представили метод μFlow, направленный на борьбу с проблемой слабой обобщающей способности детекторов дипфейков. Новый подход использует усредненные изображения для обучения моделей, что позволяет им эффективнее распознавать манипуляции, созданные неизвестными ранее генеративными алгоритмами. Технология демонстрирует высокую устойчивость к различным архитектурам GAN и диффузионных моделей, сохраняя точность при работе с новыми типами синтетического контента. arXiv · Исследования и наука Исследование геометрии решений в невыпуклых нейронных сетях Исследователи проанализировали влияние геометрии пространства решений на процесс оптимизации в невыпуклых нейронных сетях. Работа показывает, что алгоритмы эффективно находят широкие и плоские области минимумов, даже если они встречаются редко, в то время как узкие, изолированные кластеры решений остаются практически недоступными. Это объясняет фундаментальные трудности при обучении сложных моделей и выборе оптимальных весов.

← Все материалы