完善资料让更多小伙伴认识你,还能领取20积分哦, 立即完善>
大家好,当我在弹出列表的枚举值输入中输入Real64类型的数组时,一些数字如8.2,8.8和9.2被错误地显示,因此,这些数字的枚举输出是
存储在字符串变量中也是错误的,并且我的设备将不会执行使用此文本变量的所有SCPI命令。 如何使弹出列表中的选择列表正确显示。 我将不胜感激任何帮助。 以上来自于谷歌翻译 以下为原文 Hi everyone, When i enter an array of type Real64 in the Enum Values input of a Pop-Up List, some numbers such as 8.2, 8.8 and 9.2 are displayed wrongly and as a consequence of that, the Enum output of these numbers which is stored in a string variable is also wrong and all SCPI commands that use this text variable will not be executed by my Device. How can i make the selection list in the pop up list shows up correctly . I would appreciate any help. 附件 |
|
相关推荐
2个回答
|
|
您所指的问题是一个浮点问题已经出现在许多版本中,我相信所有浮点运算都会发生这种情况,但由于某些原因,VEE不会在内部或转换为“字符串”时正确截断它
如果你尝试使用Real32,问题甚至会变得更糟,加上没有Real32数组常量。 我使用的修复是使用带有重要数字的real64将数组输出运行到“To String”对象中。 例如,数字设置为6。 当然要将它提供给一个弹出窗口你需要有一个数组,所以将它运行到一个“从字符串”对象并使用标记格式和一维数组设置“结束”,你可以将它提供给你的“流行” -Up“列表。 上面提到的替代方法是使用重复“for range”对象循环遍历数组 - 通过“To String”对象然后进入收集器。 我知道这是一个令人讨厌的创可贴,但我不确定另一种方法,因为我们的程序使用程序化标签,他们必须用txt,我遇到同样的问题。 - 詹姆士 以上来自于谷歌翻译 以下为原文 The problem you are referring to is a floating point issue that's been around for a number of releases and I believe is something that happens with all floating point arithmetic but for some reason VEE does not truncate it properly either internally or when converting to "string" If you try to use Real32 the issue even gets worse, plus there is no Real32 array constant either. The fix I use is to run the array output into a "To String" object using real64 with a significant no. of digits set to 6 for example. of course to feed this into a pop-up you will need to have it an array so run it into a "From String" object and use token format and a 1D array set "to end" and you can feed this into your "Pop-Up" list. An alternative to the above mentioned is to loop through your array using a repeat "for range" object - through the "To String" object then into a collector. I know it's a nasty band-aid but I am not sure of another way to do it, Since our program uses programmatic labels, they must be fed with txt and I run into the same issue. - James |
|
|
|
60user37 发表于 2019-1-23 10:25 我想我们正在谈论不同的事情。 一方面存在真正的错误,另一方面存在数字格式的误解。 澄清这一点的最好方法是展示一个例子。 你能提供一个或多个吗? 在VRF中有很多关于此的讨论,主要是关于“真正存在的bug”。 我不得不道歉:INT64和三角函数有一个Bug。 Real 64没有错误(到目前为止;-))编辑:dBdetlef于2013年11月18日上午2:04 以上来自于谷歌翻译 以下为原文 I think we are talking about different things. There is a real bug on one side, and there are some misunderstandings in number formats on the other. Best way to clarify this is to show an example. Ca n you supply one or more? There was a lot of discussion about this in the VRF, mainly about the " real existant bug" . I have to apologize: there is a Bug with INT64 and trigonometric functions. No Bug with Real 64 ( so far ;-) ) Edited by: dBdetlef on Nov 18, 2013 2:04 AM |
|
|
|
只有小组成员才能发言,加入小组>>
1118 浏览 0 评论
2313 浏览 1 评论
2105 浏览 1 评论
1977 浏览 5 评论
2851 浏览 3 评论
871浏览 1评论
关于Keysight x1149 Boundary Scan Analyzer
637浏览 0评论
N5230C用“CALC:MARK:BWID?”获取Bwid,Cent,Q,Loss失败,请问大佬们怎么解决呀
736浏览 0评论
1430浏览 0评论
1119浏览 0评论
小黑屋| 手机版| Archiver| 电子发烧友 ( 湘ICP备2023018690号 )
GMT+8, 2024-10-13 19:52 , Processed in 1.268009 second(s), Total 81, Slave 64 queries .
Powered by 电子发烧友网
© 2015 bbs.elecfans.com
关注我们的微信
下载发烧友APP
电子发烧友观察
版权所有 © 湖南华秋数字科技有限公司
电子发烧友 (电路图) 湘公网安备 43011202000918 号 电信与信息服务业务经营许可证:合字B2-20210191 工商网监 湘ICP备2023018690号