FPGA|CPLD|ASIC论坛
直播中

ben111

11年用户 2661经验值
擅长:MEMS/传感技术 嵌入式技术 模拟技术
私信 关注
[经验]

意法半导体新增TinyML开发者云

意法半导体已将其 STM32Cube.AI 机器学习开发环境放入云中,并配有可云访问的意法半导体MCU板进行测试。

这两个版本都从TensorFlow,PyTorch或ONNX文件为STM32微控制器生成优化的C代码。开发人员云版本使用与可下载版本相同的核心工具,但增加了与意法半导体github模型库的接口,并能够在连接到云的ST板上远程运行模型,以便在不同硬件上测试性能。

“[我们希望]解决一类新的用户:人工智能社区,特别是习惯于在在线服务和平台上开发的数据科学家和人工智能开发人员,”意法半导体人工智能产品营销经理Vincent Richard告诉EE Times。“这就是我们对开发人员云的目标...用户无需下载,他们直接进入界面并开始开发和测试。

意法半导体不希望用户从离线版本迁移到云版本,因为 STM32Cube.AI 的可下载/可安装版本非常适合已经使用意法半导体开发环境完成其他任务(如定义外设)的嵌入式开发人员。理查德说,数据科学家和人工智能社区中的许多其他潜在用户使用“不同的世界”工具。

“我们希望他们更接近硬件,而做到这一点的方法是使我们的工具适应他们的工作方式,”他补充说。

意法半导体的github模型库目前包括针对STM32 MCU优化的示例模型,用于人体运动检测、图像分类、物体检测和音频事件检测。开发人员可以使用这些模型作为开发自己的应用程序的起点。

新的电路板群允许用户直接在不同的STM32 MCU上远程测量优化模型的性能。

“无需购买一堆STM32板来测试AI,由于在我们的ST板场上物理运行的代码,他们可以远程完成,”理查德说。“他们可以在不同的板上获得真正的延迟和内存占用测量值,以进行推理。

Richard表示,每个STM10部件号的电路板场将开始提供32块电路板,未来几个月将增加。这些电路板位于多个地方,与意法半导体的基础设施分开,以确保稳定和安全的服务。

STM32微控制器板群 - STM32CubeAI开发者云的一部分

意法半导体最初计划在云中为每个STM10器件提供32块电路板,后续还会有更多电路板(来源:意法半导体)

优化代码

STM32Cube工具箱中的工具.AI包括图形优化器,它可以转换微控制器的TensorFlow Lite,PyTorch或ONNX文件,以优化基于STM32库的C代码。重新编写图形以优化内存占用或延迟,或可由用户控制的两者的某种平衡。

还有一个内存优化器,以图形方式显示每层正在使用多少内存(闪存和RAM)。例如,对于内存来说太大的单个层可以分为两个步骤。

之前的MLPerf Tiny结果显示,与标准CMSIS-NN分数相比,意法半导体的推理引擎(Arm的CMSIS-NN的优化版本)具有性能优势。

STM32CubeAI开发云还将支持意法半导体即将推出的微控制器,包括内部开发的NPU,即STM32N6。

更多回帖

发帖
×
20
完善资料,
赚取积分