OpenVINO开发小组
登录
直播中
王岩
7年用户
807经验值
私信
关注
[问答]
请问在新CPU上推断INT8模型的速度是否比旧CPU快?
开启该帖子的消息推送
INT8
与采用旧 CPU 的推理相比,在新 CPU 上推断的 INT8 模型的推理速度更快。
回帖
(1)
王淑华
2023-8-15 10:33:26
旧 CPU 的慢速推理是根据系统配置和硬件规格来期待的。
旧 CPU 的慢速推理是根据系统配置和硬件规格来期待的。
举报
更多回帖
rotate(-90deg);
回复
相关问答
INT8
推断
FP32
模型
格式的
速度
比
CPU
上
的FP16
模型
格式
快
是为什么?
2023-08-15
272
GPU
上
OpenVINO基准测试的
推断
模型
的默认参数与
CPU
上
的参数不同是为什么?
2023-08-15
285
如何将Detectron2和Layout-LM
模型
转换为OpenVINO中间表示(IR)和使用
CPU
插件进行
推断
?
2023-08-15
179
使用Yolov5 - i.MX
8
MP进行NPU错误检测是什么原因?
2023-03-31
361
RK3588 RedeceMax OP
在
CPU
上
运行耗时过大怎么解决
2022-08-24
1552
请问
DSP28335
int8
怎么自己宏定义?
2018-06-13
5539
请问
stm32学习板
上
怎么才能测出
CPU
的
速度
?
2020-07-22
1401
CPU
是否
有影响
2011-03-01
2622
请问
QDMA 与 普通的EDMA3传送传送相同的数据块,QDMA
是否
比
普通的EDMA3
快
?
2018-05-28
2536
运行多个进程时,OpenVINO trade
推断
时间会增加是为什么?如何解决?
2023-08-15
193
发帖
登录/注册
20万+
工程师都在用,
免费
PCB检查工具
无需安装、支持浏览器和手机在线查看、实时共享
查看
点击登录
登录更多精彩功能!
首页
论坛版块
小组
免费开发板试用
ebook
直播
搜索
登录
×
20
完善资料,
赚取积分