江西环境监测中的近似计算规则
在日常的环境监测过程中,往往需要对数据进行计算,计算过程中会遇到如何选择有效位数的问题。环境监测技术规范中监测数据的近似计算规则如下。
(1)加法和减法
几个近似值相加减时,其和或差的有效数字位数,与小数点后位数z少者相同。在运算过程中,可以多保留一位小数。计算结果则按数值修约规则处理。
几个近似值相加减时,其和或差的有效数字决定于误差z大的数值,即z后结果的有效数字自左起不超过参加计算的近似值中第-个出现的可疑数字。在小数的加减计算中,结果所保留的小数点后的位数与各近似值中小数点后位数z少者相同。
例:1.7250 + 74.3 + 21.23 ≈ 1.72 +74.3 + 21.23 = 97.25
z后计算结果按照修约规则处理,表示为:97.2。
(2)乘法和除法
几个近似值相乘除时,所得积与商的有效数字位数决定于各种值中有效数字位数z少者。在实际运算时,先将各近似值修约至比有效数字位数z少者多保留一位,z后将计算结果按上述规则处理。
几个近似值相乘除时,所得积与商的有效数字位数决定于相对误差z大的近似值,即z后结果的有效数字位数要与近似值中有效数字位数z少者相同。
例:1.141 × 4.3 × 0.131 ≈ 1.14 × 4.3 × 0.131 = 0.642162
z后计算结果按照修约规则处理,表示为:0.64。
(3)乘方和开方
近似值乘方或开方时,原近似值有几位有效数字,计算结果就可以保留几位有效数字。
例:1.3222 = 1.747684
z后计算结果应保留四位有效数字:1.748。
例:1.4141/2 = 1.189117…
z后计算结果应保留四位有效数字:1.189。
(4)对数和反对数
在近似值的对数计算中,所取对数的小数点后的位数(不包括首数)应与真数的有效数字位数相同。
例:[H+]浓度为7.00 ×10-2 mol/L的pH值计算。
pH = -lg[H+] = -lg[7.00 ×10-2] = 1.154901…(真数7.00×10-2是三位有效数字)
z后计算结果是求对数,小数点后的位数应保留三位有效数字:1.155。
例:pH为4.00的溶液中[H+]的浓度计算。
[H+] = -lg[H+] = 4.00 (对数4.00小数点后有两位数字,故真数要有两位有效数字)
z后计算结果应保留二位有效数字:1.0×10-4 mol/L
(5)求4个或4个以上准确度接近的数值的平均值时,其有效数字位数可增加一位。
例:(1.20 + 1.21 + 1.23 + 1.23)÷ 4 = 1.2175
z后计算结果按照修约规则处理,可表示为:1.218。