高级处理能力和机器学习能力对于下一波边缘应用至关重要。机器学习用例在不同的市场和应用领域大不相同,因而需要不同的加速计算性能,在功耗和整体解决方案成本方面也差别迥异。
机器学习应用提升计算性能和能效可通过多种方式,其中最有效的是将专门构建的专用神经处理单元(NPU),或称为机器学习加速器(MLA)或深度学习加速器(DLA)集成到器件中,以补充CPU计算核心。
恩智浦提供广泛的产品组合,从传统的Kinetis MCU、LPC系列以及最近的MCX产品系列,到我们的i.MX RT跨界MCU和i.MX应用处理器,我们服务的每一个市场领域,对高效的机器学习计算能力的需求都在增长。为了向我们的用户提供高度优化的器件,我们开发了eIQ Neutron神经处理单元(NPU)。eIQ Neutron神经处理单元架构可从我们产品组合中最高效的MCU扩展到功能最强大的i.MX应用处理器。它具有较高的可扩展性,每周期运算频次为数十亿(Giga)到数万亿(Tera),还支持多种神经网络类型(如CNN、RNN、TCN和Transformer网络等),这些要素是成功的秘诀。
eIQ Neutron神经处理单元框图
eIQ Neutron神经处理单元提供了一套丰富的选项,用户可根据内核集成的恩智浦边缘处理器件和产品系列要满足的市场需求加以选择。
- 专用的控制器内核
- 内联去量化、激活和池化
- 内置微缓存,可降低功耗并减少对系统内存速度的依赖性
- 重量减压引擎
- 用于输入和输出的多维DMA,包括跨步、批处理、交织、级联
- 可配置耦合存储器
除硬件功能和特性外,eIQ Neutron神经处理单元内核还完全受屡获殊荣的eIQ®机器学习软件开发环境的支持。
将恩智浦开发的硬件加速和软件支持相结合,用户能够利用恩智浦边缘处理产品组合的优势,并保证即使在部署了设备并投入实地使用之后,也能更高效地支持新兴机器学习神经网络、模型和操作员。
|