微波EDA网,见证研发工程师的成长!
首页 > 研发问答 > 测试测量 > Labview > 十进制转换十六进制,十进制数字过长,转换结果报错

十进制转换十六进制,十进制数字过长,转换结果报错

时间:10-02 整理:3721RD 点击:
我用数值转换十六进制的函数,当数字比较短时转换是没有问题的,可当数字达到一定长度时,就会出现错误的转换结果,可是我需要这么长的转换,有没有高数指点下,谢谢~

是不是定义数据类型的问题呢

好像是,可怎么将输出的数值转换为科学计数法,再进行转换

Copyright © 2017-2020 微波EDA网 版权所有

网站地图

Top