Разработчики получили возможность использовать Apple Neural Engine (ANE) для обучения нейронных сетей, минуя официальные ограничения Apple. Благодаря обратному инжинирингу закрытых API, удалось реализовать прямой доступ к вычислительным мощностям чипов серии A и M. Это открывает путь к более эффективному локальному обучению и дообучению моделей на устройствах Apple, используя специализированное «железо» вместо стандартных CPU или GPU.
Apple Neural Engine традиционно предназначен для выполнения задач инференса, таких как обработка изображений или работа с голосом, и закрыт для сторонних задач обучения через стандартные фреймворки вроде Core ML. Новый подход позволяет взаимодействовать с аппаратным ускорителем на более низком уровне, что значительно расширяет возможности для локальной работы с ИИ-моделями на iPhone, iPad и Mac.
Использование ANE для обучения позволяет снизить энергопотребление и нагрузку на графический процессор, оставляя его свободным для других задач. Несмотря на экспериментальный статус проекта, он демонстрирует потенциал для оптимизации локальных пайплайнов машинного обучения, делая работу с нейросетями на потребительском оборудовании более гибкой и производительной.
Ключевые факты
- Проект реализован через обратный инжиниринг приватных API, которые Apple использует для внутренних нужд ANE.
- Решение позволяет задействовать специализированные тензорные ядра Apple для задач обучения, а не только для инференса.
- Метод совместим с устройствами на базе чипов Apple Silicon (серии M) и мобильными процессорами серии A.
- Реализация предоставляет прямой доступ к аппаратным ресурсам, что ранее было невозможно через стандартные инструменты разработки Apple.