瑞芯微Rockchip开发者社区
直播中

剑寒九州

8年用户 654经验值
私信 关注
[资料]

MLU220-M.2边缘端智能加速卡支持相关资料介绍

1、MLU220-M.2边缘端智能加速卡简介

MLU220-M.2 加速卡采用思元220芯片,芯片基于寒武纪MLUv02架构。加速卡采用标准M.2接口,理论峰值性能为8TOPS,功耗仅为8.25W。可以轻松实现终端设备和边缘段设备的AI赋能方案。

MLU220-M.2加速卡用于离线模型的部署,离线模型在MLU220上运行, 不依赖AI框架,只需要利用CNRT库,即可实现高效的AI推理运算。

如果需要对模型转化、量化、开发、精度调优等需要在配合MLU270在x86 PC上完成,然后生成离线模型,部署到MLU220加速卡上。

核心特性

寒武纪MLUv02架构

多达16个张量核心,借助NOC片上网络提升并行效率

硬件片内数据压缩,提升缓存有效容量和带宽

更全面AI精度支持: INT16, INT8, INT4, FP32, FP16

小个头大智能

U盘大小,可以提供8路高清视频的实时智能分析

计算弹性和可编程

高效支持多种神经网络

寒武纪Neuware软件栈和BANG语言编程环境,满足全面AI定制化要求

全面支持模型拆分并行,多模型并行,最大化计算效率

原作者:Firefly Wiki

更多回帖

发帖
×
20
完善资料,
赚取积分