arXiv · 18.06.2026 ·Машинное обучение

Новый метод обучения графовых нейросетей для повышения точности классификации

Исследователи представили метод Boundary Embedding Shaping, направленный на решение проблемы структурной запутанности в графовых нейронных сетях (GNN). Основная сложность при работе с графами заключается в том, что модели часто агрегируют информацию от семантически нерелевантных соседей, что приводит к зашумлению векторных представлений узлов. Особенно остро эта проблема проявляется для узлов, расположенных вблизи границ классов, где структурный шум размывает границы принятия решений и снижает общую точность классификации.

Предложенный подход использует адаптивное контрастивное обучение для более четкого разделения признаков. Алгоритм фокусируется на формировании границ в пространстве эмбеддингов, минимизируя влияние «шумных» связей, которые не несут полезной информации для конкретной задачи. За счет этого модель учится лучше различать узлы, находящиеся в пограничных зонах, где стандартные методы агрегации соседей часто допускают ошибки.

Эксперименты показали, что данный метод позволяет существенно улучшить качество классификации на графах со сложной структурой. Технология позволяет эффективнее фильтровать контекст узла, оставляя только те структурные связи, которые действительно важны для определения принадлежности к классу. Это решение может быть востребовано в задачах анализа социальных сетей, рекомендательных системах и биоинформатике, где качество представления графовых данных напрямую влияет на результат работы алгоритмов машинного обучения.

Источник: arXiv

Похожие материалы

arXiv · Исследования и наука Новый подход к созданию синтетических данных для интерпретируемости нейросетей Исследователи представили новый метод генерации синтетических наборов данных, предназначенных для тестирования методов интерпретируемости нейронных сетей. Существующие синтетические датасеты часто не отражают сложную иерархическую структуру реальных данных, что ограничивает их применимость при оценке того, как именно модели обучаются распознавать признаки. arXiv · Машинное обучение Новый взгляд на теорию плоских минимумов в глубоком обучении Исследователи поставили под сомнение устоявшееся в глубоком обучении представление о том, что стохастический градиентный спуск (SGD) естественным образом стремится к «плоским» минимумам функции потерь, которые обеспечивают лучшую обобщающую способность нейросетей. Основная проблема заключается в том, что традиционные метрики оценки плоскости, такие как след или максимальное собственное значение гессиана, зависят от конкретной параметризации модели. Это означает, что при изменении представления весов, не влияющем на итоговую функцию сети, показатели «плоскости» могут меняться, что делает их ненадежными инструментами для анализа. arXiv · Машинное обучение Физический подход к пониманию обучения и обобщения нейросетей Исследователи представили работу, анализирующую принципы работы глубокого обучения через призму статистической физики. Авторы отмечают, что современные нейронные сети часто демонстрируют поведение, противоречащее классическим статистическим моделям, что требует пересмотра фундаментальных представлений о процессе обучения и способности моделей к обобщению на новых данных. arXiv · Машинное обучение Ускорение численного моделирования потоков с помощью графовых нейросетей Исследователи представили новый метод ускорения алгебраических многосеточных решателей (AMG), используемых для решения уравнения Пуассона при моделировании несжимаемых потоков. Традиционные линейные методы часто сталкиваются с вычислительными сложностями из-за неоднородности расчетных сеток, что делает их узким местом в инженерных расчетах. arXiv · Машинное обучение Оптимизация гиперпараметров в физически информированных нейросетях Исследователи представили новый подход к обучению физически информированных нейронных сетей (PINNs), предназначенных для решения дифференциальных уравнений в частных производных. Основная сложность таких моделей заключается в нестабильной сходимости и высокой чувствительности к выбору гиперпараметров, что вызвано невыпуклой структурой функции потерь, включающей множество физических ограничений. Hacker News · Машинное обучение Новый подход к законам масштабирования может изменить обучение ИИ-моделей Исследователи из Стэнфордского университета предложили новый подход к законам масштабирования, который может существенно повлиять на процесс обучения искусственных нейронных сетей. Традиционные законы масштабирования описывают, как увеличение размера модели и объёма данных влияет на её производительность. Однако новый метод позволяет более точно предсказывать, как изменения в архитектуре модели и данных повлияют на её точность и эффективность. arXiv · Машинное обучение Новый подход к моделированию динамических систем через явные структуры Исследователи представили альтернативный подход к обучению динамических систем, который отходит от использования универсальных нелинейных аппроксиматоров. Вместо наращивания сложности нейронных сетей для захвата сложных паттернов, авторы предлагают архитектуру, где моделирующая способность системы определяется её внутренней структурой. Такой метод позволяет эффективнее описывать поведение динамических процессов, опираясь на математически обоснованные взаимодействия, а не на избыточную нелинейность. arXiv · Машинное обучение Как графовые нейросети соотносятся с логическими формализмами Исследователи изучили связь между графовыми нейросетями (GNN) и логическими формализмами. Они показали, что при определённых архитектурных выборах, таких как функции агрегации, комбинации и активации, GNN могут быть эквивалентны логическим формулам. arXiv · Машинное обучение Эквивариантные графовые нейросети ускоряют поиск новых материалов Исследователи представили новый подход к прогнозированию оптических спектров материалов с использованием эквивариантных графовых нейронных сетей. Традиционные суррогатные модели часто ограничены использованием скалярных признаков, инвариантных к поворотам, что снижает точность описания геометрических свойств молекулярных структур. Применение эквивариантных архитектур позволяет нейросети учитывать пространственную ориентацию атомов и связей, значительно повышая выразительность модели при анализе сложных физических систем. arXiv · Машинное обучение OrthoReg: новый метод обучения гибридных нейросимвольных моделей Исследователи представили метод OrthoReg, направленный на улучшение обучения гибридных динамических систем. Такие системы объединяют классические механистические модели, основанные на физических законах, с гибкими нейронными сетями. Традиционный подход к их созданию сталкивается с противоречием: символьные модели обладают высокой интерпретируемостью, но часто слишком упрощают реальные процессы, тогда как нейросетевые методы обеспечивают точность, но остаются «черными ящиками» без физического обоснования.

← Все материалы