关于SGL格式和DBL格式保存的小数点位数的问题
时间:10-02
整理:3721RD
点击:
大家好,sgl是单精度浮点数,用4个字节存储。DBL是双精度浮点数,用8个字节存储。给sgl控件赋值1.2345678,出来的是1.234567761421,想知道sgl数据和DBL数据保存的小数点后位数是怎么计算的
学习一下,学习一下,学习一下,
mark一下。。