完善资料让更多小伙伴认识你,还能领取20积分哦, 立即完善>
扫一扫,分享给好友
unsigned int num;
num=1377*100/2755; 我这样写的话num值二极管输出为2。 但是我如果写 num=137700/2755; 这样num值就输出50。 求教为什么会这样? |
|
相关推荐
3个回答
|
|
num=1377*100/2755;
先进行乘法运算,CPU应该进行的是int型(16位)的乘法运算: 1377 * 100 = 137700 = 0x219E4, 这个结果超出int型(16位:0xFFFF)的表示范围,数据溢出了, 无符号数截取低位,乘法得到的结果其实是 0x19E4 = 6628. 再进行除法运算 6628 / 2755 = 2.40,结果取整,所以得到结果为2 num=137700/2755; 编译器将 137700 处理为long型(32位:0xFFFF FFFF),没有超出数据类型的表示范围。 因此两个数进行除法运算,不会超出范围。 修改式1的方法,使用数据类型强制转换,将1377强制转换为long型后,再进行运算: num=(long)1377*100/2755; |
|
|
|
在不同系统下,各种数据类型的位长不一样,能表示的数据范围也就不同的。要注意一下
|
|
|
|
您好;我想问下为什么在第二个num哪里会处理成long int的呢? |
|
|
|
你正在撰写答案
如果你是对答案或其他答案精选点评或询问,请使用“评论”功能。
嵌入式学习-飞凌嵌入式ElfBoard ELF 1板卡-运动追踪之开发板测试
260 浏览 0 评论
嵌入式学习-飞凌嵌入式ElfBoard ELF 1板卡-运动追踪之编写程序
691 浏览 0 评论
901 浏览 0 评论
使用Keil建立完整的工程,并使用外部中断0触发数码管显示903
1823 浏览 0 评论
嵌入式学习-飞凌嵌入式ElfBoard ELF 1板卡-使用AHT20进行环境监测之AHT20传感器介绍
1280 浏览 0 评论
【youyeetoo X1 windows 开发板体验】少儿AI智能STEAM积木平台
11874 浏览 31 评论
小黑屋| 手机版| Archiver| 电子发烧友 ( 湘ICP备2023018690号 )
GMT+8, 2024-12-6 04:32 , Processed in 0.469793 second(s), Total 44, Slave 38 queries .
Powered by 电子发烧友网
© 2015 bbs.elecfans.com
关注我们的微信
下载发烧友APP
电子发烧友观察
版权所有 © 湖南华秋数字科技有限公司
电子发烧友 (电路图) 湘公网安备 43011202000918 号 电信与信息服务业务经营许可证:合字B2-20210191 工商网监 湘ICP备2023018690号