影响钢制卷尺的测量精度主要有三个因素:温度、尺带的张力和尺带吊在半空测量时因尺带的本身重力而引起的误差。这三个因素引起的误差改正方法如下:
1、温度
前提:尺带在20℃温度时无误差。
计算式:因温度发生误差=实际测定值×尺带膨胀系数×(使用温度-20℃)
如:某钢卷尺膨胀系数为0.0000115,在10℃温度下36m时的改正:36000mm×0.0000115×(10-20)=-4.14mm
2、尺带的张力
前提:尺带在标准张力情况下不需要张力改正。当尺带超过或低于标准张力时,会产生伸缩现象。
计算式:因张力产生的误差=(实际测定张力-标准张力)×实测距离÷(伸缩弹性力)×尺带的截面面积)
如:标准张力50N,在100N张力下36m时的改正:(100-50)×36000mm÷(205800×2.52)=3.47mm
3、当尺带吊于半空进行测量时,因尺带的重量而引起的误差
计算式:因尺带重力而引起的误差=-{(尺带单位重量×实测距离)×实测距离}÷(24×实测时张力)
如,100N、36m时
-{(0.000194×36000mm)×36000mm}÷(24×实测时张力)=-7.32mm
不同规格的钢卷尺的改正参数有所不同。