微波EDA网,见证研发工程师的成长!
首页 > 测试测量 > 测试测量技术文库 > labview中要注意数据的表示格式

labview中要注意数据的表示格式

时间:01-09 来源:互联网 点击:

在这个小程序中,我发现 乘的输出总是不正确。总是比与其的要小很多。

开始并没注意到是数据格式的问题。

那我们右键输出接点会弹出这样的对话框

表示法显示的是U16 而U16最大值为65536.所以 溢出了。

而U16是因为匹配到源数据类型才是U16的。如果前面的数据格式为U32则 这个输出也为U32。

我们不想修改前面的数据格式,因为U16对于前面的足够了,大了浪费内存。

那我们只要修改该输出的数据格式就好了。改成U32。

问题解决。

Copyright © 2017-2020 微波EDA网 版权所有

网站地图

Top