arXiv · 29.07.2026 ·Машинное обучение

Новый алгоритм HT-PAder для оптимизации в условиях нестационарного шума

Исследователи представили алгоритм HT-PAder, решающий задачу онлайн-выпуклой оптимизации в нестационарных средах с тяжелыми хвостами распределения шума. Метод позволяет достигать универсального динамического сожаления без необходимости предварительной настройки параметров, что ранее считалось открытой проблемой для градиентных оракулов с ограниченным p-м центральным моментом при p от 1 до 2.

В задачах онлайн-оптимизации алгоритмы часто сталкиваются с шумом, который не подчиняется стандартным предположениям о нормальном распределении. Наличие «тяжелых хвостов» существенно усложняет сходимость и стабильность моделей. Новый подход HT-PAder адаптируется к таким условиям, обеспечивая теоретические гарантии эффективности в динамически меняющихся сценариях, где целевая функция может смещаться во времени.

Разработка опирается на математический аппарат, позволяющий эффективно обрабатывать градиентные данные даже при наличии значительных выбросов. Это делает алгоритм перспективным для систем реального времени, где точность оценки параметров критически важна, а статистические характеристики входных данных могут быть нестабильными или заранее неизвестными.

Ключевые факты

Алгоритм HT-PAder предназначен для онлайн-выпуклой оптимизации (OCO) в условиях нестационарной среды.
Метод эффективно работает с шумом, имеющим тяжелые хвосты, где существует только конечный p-й центральный момент для p ∈ (1, 2].
Решение является «параметрически свободным» (parameter-free), что исключает необходимость ручной настройки гиперпараметров под конкретный уровень шума.
Исследование закрывает теоретический пробел в достижении универсального динамического сожаления для градиентных оракулов с ограниченными моментами.

Источник: arXiv

Обсудить с ИИ

Похожие материалы

arXiv · Исследования и наука Эффективность AdamW при обучении моделей с тяжелыми хвостами шума Исследователи проанализировали ограничения алгоритма оптимизации AdamW, который является стандартом при обучении современных больших языковых моделей. Основная проблема заключается в том, что теоретическое обоснование работы AdamW опирается на предположение о конечности дисперсии градиентного шума. Однако эмпирические данные показывают, что при предварительном обучении LLM распределение шума чаще обладает «тяжелыми хвостами», что ставит под сомнение оптимальность классического подхода. Lobsters · Машинное обучение Роль градиентного шума в обучении нейронных сетей Исследование механизмов градиентного шума раскрывает его фундаментальное влияние на процесс оптимизации нейронных сетей. В отличие от стандартных представлений о шуме как о помехе, современные подходы рассматривают его как инструмент, помогающий моделям преодолевать локальные минимумы в процессе обучения. Использование контролируемых возмущений позволяет алгоритмам градиентного спуска эффективнее исследовать ландшафт функции потерь, что способствует нахождению более устойчивых и обобщающих решений. arXiv · Исследования и наука Поиск стационарных точек невыпуклых функций через сравнение значений Исследователи представили алгоритм для поиска стационарных точек невыпуклых функций, работающий исключительно через оракул сравнения. В отличие от классических методов, требующих вычисления градиентов, этот подход определяет, в какой из двух точек значение функции больше. Метод эффективен для дважды дифференцируемых функций с липшицевыми градиентами и гессианами, обеспечивая сходимость к ε-стационарной точке при ограниченном числе запросов. arXiv · Машинное обучение Новые теоретические гарантии для алгоритма Bregman ADMM в невыпуклой оптимизации Исследователи представили анализ алгоритма Bregman ADMM для решения задач невыпуклой оптимизации с линейными ограничениями. Авторы заменили стандартное предположение о липшицевости градиента на условие относительной гладкости, основанное на сравнении гессианов относительно ядра Брегмана. Это позволяет эффективно оптимизировать сложные полиномиальные целевые функции в матричных и тензорных моделях, где глобальная константа Липшица зачастую отсутствует. arXiv · Исследования и наука Оптимизация распределения ресурсов в условиях неопределенности Исследователи представили математическую модель для управления распределением ресурсов в режиме реального времени, когда запросы поступают последовательно, а их ценность и объем потребления являются случайными величинами. Работа фокусируется на минимизации «сожаления» (regret) при принятии необратимых решений об отклонении или принятии запросов в условиях ограниченных мощностей и потенциальной вырожденности данных. arXiv · Машинное обучение Новый метод оптимизации градиента для ускорения обучения нейросетей Исследователи представили метод Stochastic Gradient Optimization with Model-Assisted Sampling, направленный на снижение дисперсии при оценке стохастического градиента. Новый подход позволяет эффективнее балансировать между скоростью сходимости и качеством обобщения моделей, минимизируя шум, неизбежно возникающий при использовании стандартных мини-пакетных методов обучения в глубоком обучении. Hacker News · Исследования и наука Resolution Horizon: математический предел переобучения ИИ на шуме Исследователи представили концепцию «горизонта разрешения» (Resolution Horizon), определяющую математическую границу, после которой модели машинного обучения перестают извлекать полезные закономерности и начинают переобучаться на случайном шуме в данных. Работа предлагает новый аналитический подход для оценки того, когда увеличение сложности модели или объема данных становится контрпродуктивным и ведет к потере обобщающей способности. arXiv · Исследования и наука Новый подход к оценке сложности обучения в задачах с гетероскедастичным шумом Исследователи представили новый метод анализа сложности выборки для линейных бандитов с гетероскедастичным шумом. Авторы преодолели «барьер полной дисперсии», предложив уточненные границы для простого сожаления (simple regret). Работа позволяет более точно оценивать производительность алгоритмов обучения в условиях, когда уровень шума меняется в зависимости от времени или действий, что критично для оптимизации стратегий принятия решений. arXiv · Машинное обучение Новые теоретические границы для стохастического субградиентного метода Исследователи представили уточненные теоретические оценки для последнего итерата стохастического субградиентного метода применительно к одномерным выпуклым липшицевым функциям. Авторы доказали, что при фиксированном горизонте итераций $n$ и стандартном шаге $\eta = \Theta(1/\sqrt{n})$ ошибка оптимизации достигает порядка $1/\sqrt{n}$. Это фундаментальное уточнение устраняет необходимость в усреднении итераций для достижения оптимальной сходимости в заданных условиях. arXiv · Машинное обучение Новый алгоритм Bandit PCA достигает минимаксной оптимальности по регрету Исследователи представили новый подход к задаче Bandit PCA, где агент должен максимизировать вознаграждение в условиях ограниченной обратной связи. Авторы разработали алгоритм, достигающий минимаксной оптимальности по регрету, что решает давнюю проблему в онлайн-обучении. Работа предлагает теоретически обоснованное решение для задач с неполной информацией, где доступен только скалярный сигнал вознаграждения без прямого наблюдения матрицы признаков.

← Все материалы