140.23-140应该等于0.23,但在VB下却等于0.22999999。

来源:百度知道 编辑:UC知道 时间:2024/07/08 00:21:17
140.23-140应该等于0.23,但在VB下却等于0.22999999。那位有办法让其直接等于0.23,阻止计算机算成0.22999999。(建议不要采用四舍五入的办法,也不要采用加0.00000001的方法)。

CDec(140.23) - CDec(140)

有个简单的方法就是定义一个变量存放计算完的值后再用,呵呵
比如:
Dim a, b, c As Single
a = 140.23
b = 140
c = a - b
MsgBox CStr(c)
MsgBox CStr(a - b)这个就是0.2999999