微波EDA网,见证研发工程师的成长!
首页 > 研发问答 > 测试测量 > Labview > 关于SGL格式和DBL格式保存的小数点位数的问题

关于SGL格式和DBL格式保存的小数点位数的问题

时间:10-02 整理:3721RD 点击:
大家好,sgl是单精度浮点数,用4个字节存储。DBL是双精度浮点数,用8个字节存储。给sgl控件赋值1.2345678,出来的是1.234567761421,想知道sgl数据和DBL数据保存的小数点后位数是怎么计算的

学习一下,学习一下,学习一下,

mark一下。。

上一篇:求问关于选项卡
下一篇:myRIO 四轮小车

Copyright © 2017-2020 微波EDA网 版权所有

网站地图

Top