瑞芯微Rockchip开发者社区
直播中

邹俩珍

7年用户 1014经验值
私信 关注
[问答]

RKNN格式模型怎样才能在RK3399Pro板子上成功运行呢

如何将Keras模型转化为RKNN格式模型呢？
RKNN格式模型怎样才能在RK3399Pro板子上成功运行呢？

回帖（1）

h1654155275.5669

2022-2-14 14:26:39
深度学习实验大多是在服务器端进行的，在实际的应用中，想要把训练好的模型投入实际的应用中去的时候往往需要转化为适应于边缘端或者是移动端计算的格式，一是缩减模型大小降低原有的参数体量，二是借助于硬件环境的加速能力，提升模型的推理速度，总之就是为了能够在板子上跑的更快点。
     在实际的开发实践中，我们选择使用的是RK3399Pro这个型号的板子，提供了NPU级别的硬件加速计算能力，官方的文档地址在这里，首页截图如下所示：

    这里是官方给出来的云计算和边缘计算的简单对比说明：
云计算与边缘计算云计算端侧仅负责发送输入数据，并接收计算结果计算资源集中管理和分配，借助服务器的强大性能，可以实现很高的浮点算力和精度水平部署便捷，云服务器可直接部署训练的模型框架，无需转换和二次开发即可使用算力成本高，常规神经网络运算使用GPU浮点运算，GPU成本高，功耗大，云端部署服务器的运维成本也很大流量成本高、延迟大，输入和输出依赖网络传递。
举报

更多回帖

1 0 0

相关问答

模型 NPU
发帖
电子发烧友APP
|投诉反馈|电子发烧友网
© 2021 bbs.elecfans.com
湘ICP备2023018690号
×
20
完善资料，
赚取积分