精度的问题

来源:百度知道 编辑:UC知道 时间:2024/07/08 14:17:28
一台表,量程是0.00~1999.9
但工作范围是0.05~1999
请问它的精度到底是0.05还是0.01?why?

精度指的是表每走一步的精度。与工作范围无关。

你提供的数据是有问题的,0.00~1999.9;0.05~1999

这些数据都不是在小数点后同一位,就一定有问题。应该是0.00~1999.90或0.0~1999.9

其精度就是表盘上能精确读出的最小刻度,比如机械手表的精度是1秒!