Исследователи представили новый метод сегментации объектов (affordance segmentation), адаптированный для работы на встраиваемых устройствах с использованием RGB-D камер. Авторы разработали специализированный алгоритм поиска архитектуры нейронных сетей (NAS), который эффективно интегрирует данные о глубине в компактные модели, обеспечивая баланс между точностью распознавания и вычислительными затратами на ограниченном «железе» носимых роботов.

Основная проблема существующих решений заключается в избыточности вычислений при обработке данных с датчиков глубины. Предложенный подход позволяет находить оптимальные конфигурации нейросетей, которые эффективно используют RGB-D информацию без критической нагрузки на процессор. Это достигается за счет пересмотра пространства поиска архитектур и внедрения специфических методов дообучения, ориентированных на специфику встраиваемых систем.

Технология позволяет роботам лучше распознавать функциональные свойства окружающих предметов, что критически важно для взаимодействия с физическим миром в реальном времени. Использование RGB-D данных значительно повышает точность сегментации в условиях сложного освещения или неоднородных текстур, где обычные RGB-камеры часто показывают низкие результаты.

Ключевые факты

  • Разработан метод аппаратного поиска архитектур (Hardware-aware NAS), оптимизированный под интеграцию данных глубины (D) в малые нейросети.
  • Предложенный подход сфокусирован на достижении Парето-оптимальности, балансируя между качеством сегментации и требованиями к ресурсам встраиваемых систем.
  • Решение протестировано на задачах сегментации функциональных зон (affordance), что необходимо для автономной манипуляции объектами носимыми роботами.
  • Методология включает специализированный процесс дообучения, позволяющий эффективно использовать мультимодальные данные на устройствах с низким энергопотреблением.