完善资料让更多小伙伴认识你,还能领取20积分哦, 立即完善>
大家好...我是这个论坛的新手而且我不是软件工程师。但是,使用VEE已经有好几年了。我的问题是这样的:我需要向RS232发送一个计算值。没有问题,但计算结果
值。 它非常简单。一个数字乘以10,后来在程序中除以10(循环中的计数器中的数字)结果大多给出例如1.2,1.3等等,但有时结果是1.999999999999和我的设备 不明白。我已经告诉它因为它的卷轴(浮动)格式,但似乎我不能使用任何其他格式,因为我有x,x ..如何让程序显示正确的数字?如果你需要更多 信息,告诉我感谢安德斯 以上来自于谷歌翻译 以下为原文 Hi All... Im new to this forum and im not a software engineer.. However, used VEE for some years. My problem is this: I need to send a calculated value to the RS232..no problems there, but the calculated value. It very simple. A number multiplyed with 10 and later on in the program divided with 10 (a number from a counter in a loop) The result mostly gives eg 1.2, 1.3 and so on, but some times the result is 1.999999999999 and my equipment dont understand that. i have been told its because its Reel (float) format, but it seems i cant use any other format since i have x,x.. How do i get the program to show the correct number ? If you need more information, just tell me Thanks Anders |
|
相关推荐
3个回答
|
|
我过去也遇到过同样的问题。
我通过将实数转换为字符串,然后限制字符串的长度来解决这个问题。 接下来,将该字符串转换回实数.Regards, 以上来自于谷歌翻译 以下为原文 I've had the same problem in the past. I solved this by converting the real number to a string, then limiting the length of the string. Next, convert that string back to a real number. Regards, |
|
|
|
谢谢..我想我会试试。
但是,字符串必须有一个不同的长度,因为我的计数器从0到100,一个十进制=从3到5的字符串。我可以做和字符串长度自动检测我可以使用int16数字...我试试。谢谢 againRegardsAnders 以上来自于谷歌翻译 以下为原文 Thanks.. I think i will try that. However, the string must have a difined lenght cause my counter goes from 0 til 100's with one decimal = string from 3 to 5. I could maybe make and string lenght auto detect where i can use int16 numbers...ill try..thanks again Regards Anders |
|
|
|
这可能很容易修复。只需在DirectI / O对象中指定正确的格式。
使用WRITE TEXT实数格式固定1个小数位,始终发送带小数点后一位的数字。 以上来自于谷歌翻译 以下为原文 This is probably easy to fix. Just specify correct format in the DirectI/O object. Use WRITE TEXT a REAL FORMAT FIXED with 1 fractional digit to always send out the number with one decimal. |
|
|
|
只有小组成员才能发言,加入小组>>
1252 浏览 0 评论
2360 浏览 1 评论
2173 浏览 1 评论
2042 浏览 5 评论
2925 浏览 3 评论
999浏览 1评论
关于Keysight x1149 Boundary Scan Analyzer
725浏览 0评论
N5230C用“CALC:MARK:BWID?”获取Bwid,Cent,Q,Loss失败,请问大佬们怎么解决呀
828浏览 0评论
1252浏览 0评论
小黑屋| 手机版| Archiver| 电子发烧友 ( 湘ICP备2023018690号 )
GMT+8, 2024-12-3 20:19 , Processed in 1.504463 second(s), Total 83, Slave 66 queries .
Powered by 电子发烧友网
© 2015 bbs.elecfans.com
关注我们的微信
下载发烧友APP
电子发烧友观察
版权所有 © 湖南华秋数字科技有限公司
电子发烧友 (电路图) 湘公网安备 43011202000918 号 电信与信息服务业务经营许可证:合字B2-20210191 工商网监 湘ICP备2023018690号