构建ARM NN自定义后端插件21.08版教程

Arm NNN是CPU、GPUs和NPUs的推论中继器。 Arm NNN能够弥合现有NN框架与基本IP之间的缺口。 Arm NN能够高效翻译现有的神经网络框架,如TensorFlow Lite和ONNX。 Arm NNN允许这些神经网络在不作修改的情况下,有效地运行于Cortex-A CPUs、Arm Mali GPUs和Arm 机械学习NPU处理器。Arm NNNN提供后端,允许在Cortex-A CPUs、马里-GPUs和Arm ML 处理器上运行工作量。Arm NNNN还允许您撰写自己的自定义后端与第三方设备接口,如下图所示:图2-1:数据流向和来自神经网络应用程序的流程。