数值转字符串后数据就不对了
时间:10-02
整理:3721RD
点击:
我将一直循环得到的值转换成字符串后就不对了,不知道是为什么?难道是转换过程中有什么机制?


啥玩意啊。你这个问题是出在数据类型上啊。
你数字显示那个用的U32,但是你输入到数字显示前不是U32类型,所以U32控件上显示一个红色小三角形。进入数字显示控件前的数字应该是个I32,而你的转成字符串时,显然是不会强制转换成U32的,自然两个数就不一样了。
如果你确定计算出的值应该是个U32那转成字符串前请先强制把数转成U32
我照着你的数据做了一个,转换没有问题。唯一发现的就是的数值接近U32位极限,不知道是不是这方面的原因。新建了一个LabVIEW学习交流群(557572818),欢迎加入交流学习。
我后面反复测试,应该是我的数据太大超过了字符串的最大长度导致数据不对
用U64就好了
所谓的字符串最大长度是不存在的。
对头你说的非常正确,后来我又试了下确实是两端的类型不一样导致的
学习学习
有点看不懂!
兜纳K1
数据类型溢出了 正常现象 设置类型即可
看看
kabnkan
还有一个问题当初我也没有注意,其实我得到的报文字符串数据是16进制的,应该先将其转成10进制字符串,然后再转成10进制数值,这样的数据才正确,不然的话数据随着时间的改变增加会导致都出来的数据不对
