微波EDA网,见证研发工程师的成长!
首页 > 研发问答 > 测试测量 > 虚拟仪器 > 请教关于浮点数的有效位数的问题

请教关于浮点数的有效位数的问题

时间:12-13 整理:3721RD 点击:
我用dbl的数据格式,请问能容纳的浮点数能到小数点后多少位?
现在我输入小数点后12位的数,结果只剩下5位,回车后只显示2位,不能满足我的要求,
请问我该如何办。
.31

右键》》format & precision可以指定digits of precision
12位肯定没问题
.16

多谢鹰熊大虾
.31

Copyright © 2017-2020 微波EDA网 版权所有

网站地图

Top