Исследователи представили NeuronSoup — архитектуру нейронных вычислений, отказывающуюся от традиционного послойного обучения в пользу асинхронной передачи сигналов через пул общих нейронов. Вместо классического обратного распространения ошибки система использует эволюционные методы для настройки графов с временными задержками, что позволяет динамически маршрутизировать сигналы через переменное количество промежуточных узлов, повышая гибкость обработки данных.
В основе подхода лежит концепция «временных графов», где каждый путь от входного до выходного нейрона обладает уникальной задержкой. Это имитирует биологические принципы передачи импульсов, где информация кодируется не только весами связей, но и временем прохождения сигнала. Такая структура позволяет сети адаптироваться к потоковым данным без необходимости хранения градиентов для каждого слоя, что существенно снижает требования к памяти при обучении.
Архитектура NeuronSoup эффективно решает проблему «забывания» и статической структуры весов, характерную для классических нейросетей. Поскольку нейроны являются общими для всех путей, система демонстрирует высокую плотность вычислений. Это открывает возможности для создания более энергоэффективных моделей, способных обучаться в режиме реального времени на задачах, требующих анализа временных последовательностей и динамических сред.
Ключевые факты
- Архитектура заменяет синхронную послойную обработку на асинхронную передачу сигналов через общие нейроны.
- Обучение происходит без использования алгоритма обратного распространения ошибки (backpropagation).
- Модель использует эволюционные алгоритмы для оптимизации путей прохождения сигнала в графе.
- Система поддерживает переменное количество скрытых нейронов на пути сигнала, что обеспечивает адаптивность вычислений.