1、MLU220-M.2边缘端智能加速卡简介
MLU220-M.2 加速卡采用思元220芯片,芯片基于寒武纪MLUv02架构。加速卡采用标准M.2接口,理论峰值性能为8TOPS,功耗仅为8.25W。可以轻松实现终端设备和边缘段设备的AI赋能方案。
MLU220-M.2加速卡用于离线模型的部署,离线模型在MLU220上运行, 不依赖AI框架,只需要利用CNRT库,即可实现高效的AI推理运算。
如果需要对模型转化、量化、开发、精度调优等需要在配合MLU270在x86 PC上完成,然后生成离线模型,部署到MLU220加速卡上。
核心特性
寒武纪MLUv02架构
多达16个张量核心,借助NOC片上网络提升并行效率
硬件片内数据压缩,提升缓存有效容量和带宽
更全面AI精度支持: INT16, INT8, INT4, FP32, FP16
小个头大智能
U盘大小,可以提供8路高清视频的实时智能分析
计算弹性和可编程
高效支持多种神经网络
寒武纪Neuware软件栈和BANG语言编程环境,满足全面AI定制化要求
全面支持模型拆分并行,多模型并行,最大化计算效率
原作者:Firefly Wiki
更多回帖