Исследователи представили архитектуру NIFA (Nonlinear IMC enhanced FPGA), объединяющую традиционные программируемые логические матрицы с аналоговыми вычислениями в памяти (IMC) на базе ReRAM. Решение позволяет выполнять векторно-матричное умножение непосредственно в кроссбарах памяти, что значительно повышает плотность вычислений и энергоэффективность при работе с глубокими нейронными сетями по сравнению с классическими цифровыми FPGA.
Современные FPGA уже используют специализированные тензорные блоки и вычисления внутри BRAM для ускорения нейросетей, однако они ограничены пропускной способностью памяти и энергозатратами на передачу данных. Архитектура NIFA решает проблему «узкого места» фон-неймановской архитектуры, перенося основную вычислительную нагрузку в аналоговый домен. Это позволяет достичь кратного прироста производительности при выполнении операций, критически важных для инференса современных моделей.
Разработка направлена на преодоление физических ограничений цифровой логики при масштабировании ИИ-ускорителей. Использование нелинейных характеристик ReRAM-ячеек в сочетании с гибкостью FPGA открывает возможности для создания более компактных и экономичных систем инференса, которые могут быть развернуты непосредственно на периферийных устройствах с жесткими требованиями к энергопотреблению.
Ключевые факты
- NIFA использует ReRAM-кроссбары для выполнения векторно-матричных умножений (VMM) в аналоговом режиме.
- Архитектура обеспечивает на порядок более высокую плотность вычислений по сравнению с традиционными цифровыми логическими схемами.
- Решение снижает энергопотребление за счет минимизации перемещения данных между памятью и вычислительными блоками.
- Интеграция IMC в FPGA позволяет сохранить гибкость программируемой логики при значительном ускорении операций глубокого обучения.