发 帖  
原厂入驻New
[经验]

千芯科技推出了针对芯来RISC-V平台的AI部署工具包(tinyAI SDK)

2020-11-21 10:08:17  255 RISC-V
分享
1
千芯科技推出了针对芯来RISC-V平台的AI部署工具包(tinyAI SDK),使用户可以基于该先进技术快速部署基于芯来RISC-V内核的AIoT应用。在芯来UX600上,实测的AI应用实现11.01倍(相较原生AI算法)的显著推断性能提升。千芯科技的tinyAI SDK成为首个支持芯来UX600图像AI计算部署与加速的工具包。



千芯科技tinyAI SDK

一直以来,端侧RISC-V以其灵活可裁剪高性价比的优势,不断扩展其在各个领域的应用。随着各类型科技巨头逐渐入局RISC-V应用产品,RISC-V的AIoT应用成为业界关注的重点。以往基于端侧RISC-V开发AI应用,要面对缺少开发包、部署复杂、AI性能不理想等痛点问题。这使得端侧RISC-V在AIoT上的部署一度面临困境。



千芯科技本次推出的tinyAI SDK,基于芯来科技的UX600开发板,成功搭载了基于端侧RISC-V内核进行人脸检测与人脸识别的AI应用,证明了端侧RISC-V芯片在AIoT领域广阔的应用前景。


演示中使用的人脸检测算法基于UX600实现的人脸检测,输入两张包含人脸的图片,检测并输出人脸区域:
tinyAI SDK在芯来UX600上运行人脸检测并输出人脸区域


部署了tinyAI SDK的UX600,能够高效的进行AI计算/人脸识别。在人脸检测后,进行了人脸识别,并输出人脸特征值的相似度。


tinyAI SDK在芯来UX600上运行人脸识别/比对的输出结果如图所示:
tinyAI SDK 在芯来UX600上运行人脸识别/比对的输出结果


相较原生算法,tinyAI使得端侧人脸识别的性能提到11.01倍。

千芯科技的tinyAI SDK将AI模型剪枝、量化等先进技术整合入工具包,并针对RISC-V内核的存储、架构特点进行了针对性的特定优化。千芯科技的tinyAI,不仅方便了AI算法在端侧RISC-V平台的部署,更大大加速了AI算法的性能,使得端侧AI应用实用化。



本次Demo实测使用的硬件平台是芯来科技提供的加载UX600内核的 FPGA 板卡


芯来UX600平台




千芯科技与芯来科技的本次合作为RISC-V生态的发展注入了新的活力,为端侧RISC-V生态拓展出更加广阔的AI空间。

只有小组成员才能发言,加入小组>>

15个成员聚集在这个小组

加入小组

创建小组步骤

关闭

站长推荐 上一条 /9 下一条

快速回复 返回顶部 返回列表