油品计量基础

有效数字×10

?单位

这里?为幂指数，根据选定单位而定。例如，有效数字为3.4mm的测值可表示成3.4mm、3.4×103?m、3.4×10-3m、3.4×10-2cm。目前实际确定时，通常将极限误差保留一位数字（精密测量可多保留1～2位），测量结果最末一位数字的数量级取至极限误差数量级相同。例如，光速C的估计值为299792458.0m/s,极限误差为0.4m/s，因此光速可用下式表示：

C=（299792458.0±0.4）m/s

对于一般性测量，有效位数的确定可以简单些，不必先知道极限误差，只需按计量器具最小刻度值来确定有效位数即可，因为一般计量器具的极限误差与刻度值是相当的。如果对测量结果需要进行计算，如多次测量时求算术平均值，则读数可多估读一位；但最后测量结果的有效位数仍根据计量器具最小刻度值确定。

从上述分析可以看出，测量数据的有效位数是受测量器具及方法的精度限制的，不能随意选定。如成品油计量中散装成品油重量计算时的数据处理，一般规定：

A.若油重单位为吨（t）时，则数字应保留值小数点后第三位；若油重单位为千克（kg）时，则有效数字仅为整数。

B.若油品体积单位为立方米（m3）时，则有效数字应保留值小数点后第三位；若体积单位为升（L）时，则有效数字仅为整数；但燃油加油机计量体积单位为升时，数字应保留值小数点后第二位。

C.若油温单位为摄氏度（℃）时，则有效数字应保留值小数点后一位，即精确值0.1。

D.若油品密度单位为g/cm3时，则有效数字应保留至小数点后第四位；若油

品密度单位为kg/m3,则有效数字应保留至小数点后一位，且kg/m3=10-3g/cm3。

2.数字修约原则

在处理计量测试数据的过程中，常常需要仅保留有效位数的数字，其余数字都舍去。这时要遵循以下规则进行取舍：

如果以舍去数的首位单位为1，分三种情况进行处理： （1）若舍去部分的数值大于5，则保留数字的末位加1； （2）若舍去部分的数值小于5，则保留数字的末位不变；

（3）若舍去部分的数值等于5，则将保留数字的末位凑成整数，即末位为偶数（0、2、4、6、8、）时不变，为奇数（1、3、5、7、9、）时则加1。

为便于记忆，我们将上述规则简化为口诀： 五下舍去五上进，偶弃奇取恰五整。

【例5-6】将下列左边各数保留到小数点后第二位。 76.7464→76.75 15.6735→15.67 0.3750→0.38 0.3650→0.36 0.365000001→0.37 3.近似数的加减运算

近似数的加减，以小数点后位数最少的为准，其余各数均修约成比该数多保留一位，计算结果的小数位数与小数位数最少的那个近似数相同。

【例5-7】求28.1+14.54+3.0007的值

解： 28.1+14.54+3.0007≈28.1+14.54+3.00=45.64≈45.6 答：该值为45.6。 4.近似数的乘除运算

近似数的乘除，以有效数字最少的为准，其余各数修约成比该数字多一位的有效数字；计算结果有效数字位数，与有效数字的位数最少的那个数相同，

而与小数点位置无关。

【例5-8】求2.3847×0.76÷41678的值

解：2.3847×0.76÷41678≈2.3847×0.76÷4.17×104=4.33764988×10-5

≈4.3×10-5

答：该值为4.3×10-5

【例5-9】已知圆半径R=3.145mm求周长C

解：C=2?R=2×3.1416×3.145=19.760664≈19.76mm 答：周长为19.76mm。 5.近似数的乘方运算

乘方运算是乘法运算的特例，其规则与乘除运算规则类同，为：数进行乘方运算时，幂的底数有几位有效数字，运算结果就保留有几位有效数字。

【5-10】试求（2.46）2的值

解：经计算得（2.46）2=6.0516。因为底数2.46的有效数字为三位，所以计算结果亦取三位有效数字，为6.05。

答：该值为6.05。 6.近似数的开方运算

开方运算是乘方的逆运算，所以可以由乘方运算规则导出开方运算规则为：数进行开方运算时，被开方数有几位有效数字，求得的方根值就保留几位有效数字。例举一列进行说明。

【5-11】试求解：为2.93。

答：该值为2.93。

8.6的值

8.6≈2.933。因为8.6可以认为是三位有效数字，所以其方根取

7.近似数的混合运算

进行混合运算时，中间运算结果的有效数字位数可比按加、减、乘、除、乘方、开方运算规则进行计算所得的结果多保留一位。

?673?119?119?0.094??12.8?9.5?【5-12】试求的值

403.7??100.11?12.8?解：因为12.8-9.5=3.3，其有效位数最少，为两位，所以上式的最终计算结果的有效数字也取两位，而中间运算结果取三位。然后进行计算，得

?554?11.2??3.3?565?3.3?186?0.53404?87.5353?102353答：该值为0.53。

这里应该指出，为可靠起见，实际计算过程中的数据和最终结果的数的位数可比按以上有关规定的多保留1~2位，作为保险数字，这要视具体情况而定。

8.修约注意事项

（1）不得连续修约。即拟修约的数字应在确定数一次修约获得结果，不得多次连续修约。如15.4546至个位，结果为15，不正确修约是：15.4546→15.455→15.46→15.5→16。

（2）负数修约，先将它的绝对值按规定方法进行修约，然后在修约值前加上负号，即负号不影响修约。

习题

1.什么是误差、修正值？两者有何区别？

2.什么是相对误差、引用误差？绝对误差和误差的绝对值有何不同？ 3.某标准流量计检定某满刻度值为1000L的工作用流量计，标准流量计标准值为1002L时，工作用流量计示值为997.3L，试求该工作用流量计的误差、相对误差、引用误差和修正值。