微波EDA网,见证研发工程师的成长!
首页 > 研发问答 > 测试测量 > 虚拟仪器 > 数据流动问题?

数据流动问题?

时间:12-13 整理:3721RD 点击:
    虽然数字控件的精度可以自己设得很高,但如果是1+1e-16的运算,labview会把1e-
16毫不留情的舍掉。我需要它进行精确的计算,不能舍掉1e-36以内的数据。我该怎么办

   请教
    
.177

用C来计算
btw:什么叫数据流动?
.155
.155

Copyright © 2017-2020 微波EDA网 版权所有

网站地图

Top