Исследователи представили новый метод сегментации объектов (affordance segmentation), адаптированный для работы на встраиваемых устройствах с использованием RGB-D камер. Авторы разработали специализированный алгоритм поиска архитектуры нейронных сетей (NAS), который эффективно интегрирует данные о глубине в компактные модели, обеспечивая баланс между точностью распознавания и вычислительными затратами на ограниченном «железе» носимых роботов.
Основная проблема существующих решений заключается в избыточности вычислений при обработке данных с датчиков глубины. Предложенный подход позволяет находить оптимальные конфигурации нейросетей, которые эффективно используют RGB-D информацию без критической нагрузки на процессор. Это достигается за счет пересмотра пространства поиска архитектур и внедрения специфических методов дообучения, ориентированных на специфику встраиваемых систем.
Технология позволяет роботам лучше распознавать функциональные свойства окружающих предметов, что критически важно для взаимодействия с физическим миром в реальном времени. Использование RGB-D данных значительно повышает точность сегментации в условиях сложного освещения или неоднородных текстур, где обычные RGB-камеры часто показывают низкие результаты.
Ключевые факты
- Разработан метод аппаратного поиска архитектур (Hardware-aware NAS), оптимизированный под интеграцию данных глубины (D) в малые нейросети.
- Предложенный подход сфокусирован на достижении Парето-оптимальности, балансируя между качеством сегментации и требованиями к ресурсам встраиваемых систем.
- Решение протестировано на задачах сегментации функциональных зон (affordance), что необходимо для автономной манипуляции объектами носимыми роботами.
- Методология включает специализированный процесс дообучения, позволяющий эффективно использовать мультимодальные данные на устройствах с низким энергопотреблением.