arXiv · 16.06.2026 ·Машинное обучение

Новый метод обучения ИИ в распределённых системах

Исследователи представили новый подход к обучению машинных моделей в распределённых системах, учитывающий изменения данных во времени и пространстве. Метод C2FL (Clustered Continual Federated Learning) позволяет узлам системы обучаться на локальных данных, сохраняя приватность и адаптируясь к изменениям в окружающей среде.

В традиционных системах машинного обучения данные часто собираются централизованно, что вызывает проблемы с конфиденциальностью. В C2FL узлы обучаются локально, а затем обмениваются знаниями с другими узлами, находящимися в близких условиях. Это позволяет системе адаптироваться к изменениям, таким как перемещение узлов или изменения в данных.

Авторы статьи отмечают, что C2FL особенно полезен в системах, где данные чувствительны к конфиденциальности, например, в медицинских или финансовых приложениях. Метод также учитывает временные и пространственные изменения, что делает его более устойчивым к изменениям в окружающей среде.

Исследование было опубликовано на arXiv и может найти применение в различных областях, включая автономные транспортные системы, умные города и промышленные IoT-системы.

Источник: arXiv

Похожие материалы

NVIDIA Technical Blog · Обучение и дообучение NVIDIA FLARE Auto-FL ускоряет исследования федеративного обучения с помощью ИИ-агентов NVIDIA представила новую систему Auto-FL в рамках своего фреймворка Federated Learning and Analytics Research (FLARE). Эта система использует ИИ-агентов для автоматизации и ускорения исследований в области федеративного обучения (FL). Федеративное обучение позволяет обучать модели на распределённых данных без их централизации, что особенно важно для задач, связанных с конфиденциальностью и безопасностью данных. Hacker News · Машинное обучение Новый подход к законам масштабирования может изменить обучение ИИ-моделей Исследователи из Стэнфордского университета предложили новый подход к законам масштабирования, который может существенно повлиять на процесс обучения искусственных нейронных сетей. Традиционные законы масштабирования описывают, как увеличение размера модели и объёма данных влияет на её производительность. Однако новый метод позволяет более точно предсказывать, как изменения в архитектуре модели и данных повлияют на её точность и эффективность. arXiv · Инференс и железо Как снизить задержки в системах с потоковыми данными Исследователи из MIT и Google предложили новый подход к обработке потоковых данных в системах машинного обучения, который может существенно снизить задержки и нагрузку на серверы. В статье, опубликованной на arXiv, они описывают метод, который отделяет процесс инференса от обновления состояния, используя вероятностное прореживание (probabilistic thinning). Google DeepMind News · Обучение и дообучение Decoupled DiLoCo от DeepMind для устойчивого распределённого обучения DeepMind представила новый подход к распределённому обучению нейронных сетей — Decoupled DiLoCo (Decoupled Distributed Learning with Communication). Этот метод позволяет значительно повысить устойчивость и эффективность обучения моделей в условиях ограниченной или ненадёжной связи между узлами. В отличие от традиционных методов, где синхронизация данных между узлами может стать узким местом, Decoupled DiLoCo использует асинхронный обмен информацией, что делает процесс обучения более гибким и устойчивым к сбоям. arXiv · Обучение и дообучение Новый фреймворк для обучения ИИ-агентов в условиях зависимости данных Исследователи из Arxiv представили новый фреймворк для обучения ИИ-агентов, который учитывает зависимость данных. В статье "Learning with Simulators: No Regret in a Computationally Bounded World" авторы рассматривают минимальные предположения, необходимые для генерализации в условиях, где данные не являются независимыми. Это особенно важно для ИИ-агентов, которые часто работают с последовательными или взаимосвязанными данными, например, в задачах планирования или взаимодействия с окружающей средой. arXiv · Машинное обучение Новый метод обучения нейросетей без жесткого копирования знаний Исследователи предложили альтернативу традиционному дистилляции знаний (knowledge distillation), где маленькие модели пытаются копировать логиты больших. Проблема в том, что это делает их слишком узкоспециализированными, ухудшая обобщающую способность. Hacker News · Машинное обучение Новый метод параллельных вычислений на GPU для ИИ Исследователи представили новый подход к параллельным вычислениям на графических процессорах, который может значительно ускорить обучение и инференс нейросетей. В статье, опубликованной на arXiv, авторы предлагают метод, позволяющий избежать традиционных проблем с синхронизацией и конкуренцией за ресурсы. arXiv · Модели и релизы Influcoder: новый метод атрибуции данных для улучшения качества датасетов Исследователи представили метод Influcoder, который позволяет оценивать влияние отдельных данных на обучение языковых моделей. Это важно для создания качественных датасетов, так как позволяет выявлять и удалять вредоносные или нерелевантные данные. arXiv · Машинное обучение Встраиваемый ИИ для микроконтроллеров: от данных до развёртывания Исследователи представили системный обзор встраиваемого машинного обучения для устройств класса микроконтроллеров. В отличие от облачных сервисов, такие системы работают с ограниченными ресурсами: памятью, энергией и задержками. Авторы детализируют ключевые этапы — от сбора и предобработки данных до развёртывания моделей и оценки их работы. arXiv · Память и RAG Память в ИИ для прогнозирования трафика Исследователи из Университета Цинхуа и других ведущих вузов представили новый подход к прогнозированию состояния дорожного движения с использованием памяти. В статье, опубликованной на arXiv, они предлагают Memory-Augmented Graph Liquid Time-Constant Networks (M-GLTN) — модель, которая решает проблему нехватки данных в некоторых регионах за счёт переноса знаний из других областей.

← Все материалы