完善资料让更多小伙伴认识你，还能领取20积分哦， 立即完善>
3天内不再提示
|
我的程序是这样的：accel_lim = ((long)step*decel) / (accel+decel);由于step和decel比较大，所以他们的乘积可能超过2的32次方-1，但是除以(accel+decel)后肯定是小于2的32次方的，为什么我算出来的结果是错误的。
0
|
|
相关推荐
11个回答
|
|
|
你交换一下计算顺序，accel_lim = ((long)step) / (accel+decel)*decel。
如果结果会出现超过32bit的数，那就只有老实按照两个32bit字节存储计算。 |
|
|
|
|
|
数据溢出了
|
|
|
|
|
|
用int64吧。。。
|
|
|
|
|
|
帮顶吧
|
|
|
|
|
|
|
|
|
|
|
ndrwer 发表于 2019-2-27 13:55 这样会丢精度。 |
|
|
|
|
|
|
|
|
|
|
|
本帖最后由 yanhaijian 于 2015-8-26 10:28 编辑 KEIL识别不了这个关键字。应该是__int64。 |
|
|
|
|
|
long long类型的支持。
|
|
|
|
|
|
|
|
|
2019-2-27 10:55:34
评论
|
|
|
|
|
|
|
|
你正在撰写答案
如果你是对答案或其他答案精选点评或询问，请使用“评论”功能。
STM32F405驱动DS1302时钟模块，输出时间错乱该怎么排查？
2810 浏览 2 评论
stm32f405rgt6驱动DS1302ZN出现时间错乱问题
2420 浏览 1 评论
stm32用fsmc读取ad7606采集数据，数据不变，只有开发版复位才更新数据
2288 浏览 0 评论
2404 浏览 1 评论
1643 浏览 1 评论
/9 
关注我们的微信
下载发烧友APP
电子发烧友观察
版权所有 © 湖南华秋数字科技有限公司
电子发烧友 （电路图） 湘公网安备 43011202000918 号 电信与信息服务业务经营许可证：合字B2-20210191
工商网监
湘ICP备2023018690号
2591
淘帖
14877
