Разработчики представили решение для выполнения инференса нейронных сетей на зашифрованных данных с использованием методов гомоморфного шифрования. Система демонстрирует время обработки одного изображения из набора CIFAR-10 всего за 163 миллисекунды. Это достижение значительно приближает технологии конфиденциальных вычислений к практическому применению в задачах машинного обучения, где критически важна приватность исходных данных.
Гомоморфное шифрование позволяет проводить математические операции над зашифрованными данными без их предварительной дешифровки. Долгое время основным препятствием для внедрения этого метода в ИИ была крайне низкая производительность, требующая огромных вычислительных затрат. Новый подход оптимизирует вычислительные графы и операции над тензорами, что позволяет выполнять предсказания в режиме, близком к реальному времени.
Технология открывает возможности для создания сервисов, где модель получает доступ к пользовательским данным, не видя их содержимого. Это особенно актуально для медицины, финансового сектора и облачных вычислений, где требования к защите персональной информации запрещают передачу данных в открытом виде на серверы для обработки нейросетями.
Ключевые факты
- Время выполнения инференса одного изображения составляет 163 миллисекунды.
- В качестве тестового набора данных использован стандартный бенчмарк CIFAR-10.
- Метод основан на применении гомоморфного шифрования для прямого выполнения операций в нейросети.
- Решение позволяет проводить вычисления на сервере, не имея доступа к исходному контенту пользователя.