VB 变量类型是单精度 正确运算结果是0.008几 为什么显示是8.多
来源:百度知道 编辑:UC知道 时间:2024/07/04 19:15:28
VB 变量类型是单精度 正确运算结果是0.008几 为什么显示是8.多
程序写错了吧。不可能差这么多的。
呵呵,是不是显示8E-03啊?
就是表示 8乘10的负3次方啊。这个就是单精度和双精度的小数表示方法,就是科学计数法,
23355566888显示的是2.33557E+10
程序问题,发代码出来看看。
UC知道是一部内容开放、自由的互动网络百科全书
客观、专业、权威的知识性百科全书
来源:百度知道 编辑:UC知道 时间:2024/07/04 19:15:28
程序写错了吧。不可能差这么多的。
呵呵,是不是显示8E-03啊?
就是表示 8乘10的负3次方啊。这个就是单精度和双精度的小数表示方法,就是科学计数法,
23355566888显示的是2.33557E+10
程序问题,发代码出来看看。