VB中1=1.000000000000000000011吗?
来源:百度知道 编辑:UC知道 时间:2024/07/05 21:20:09
请解释一下 谢谢
是相等的
验证:
msgbox 1=1.000000000000000000011
结果:
true
原因:
VB默认的数据类型无法达到如此高的精度,如果小数点后的数字超过9位,vb会自动截断,也就是说比0.000 000 001小的数字,vb会自动把它当作0看待
UC知道是一部内容开放、自由的互动网络百科全书
客观、专业、权威的知识性百科全书
来源:百度知道 编辑:UC知道 时间:2024/07/05 21:20:09
是相等的
验证:
msgbox 1=1.000000000000000000011
结果:
true
原因:
VB默认的数据类型无法达到如此高的精度,如果小数点后的数字超过9位,vb会自动截断,也就是说比0.000 000 001小的数字,vb会自动把它当作0看待