题目

有效数字运算规则

提问时间：2020-06-02

答案

有效数字运算规则
由于与误差传递有关,计算时加减法和乘除法的运算规则不太相同.
1.加减法
先按小数点后位数最少的数据保留其它各数的位数,再进行加减计算,计算结果也使小数点后保留相同的位数.
例：计算50.1+1.45+0.5812=?
修约为：50.1+1.4+0.6=52.1
先修约,结果相同而计算简捷.
例：计算 12.43+5.765+132.812=?
修约为：12.43+5.76+132.81=151.00
注意：用计数器计算后,屏幕上显示的是151,但不能直接记录,否则会影响以后的修约；应在数值后添两个0,使小数点后有两位有效数字.
2.乘除法
先按有效数字最少的数据保留其它各数,再进行乘除运算,计算结果仍保留相同有效数字.
例：计算0.0121×25.64×1.05782=?
修约为：0.0121×25.6×1.06=?
计算后结果为：0.3283456,结果仍保留为三位有效数字.
记录为：0.0121×25.6×1.06=0.328
注意：用计算器计算结果后,要按照运算规则对结果进行修约
例：计算2.5046×2.005×1.52=?
修约为：2.50×2.00×1.52=?
计算器计算结果显示为7.6,只有两位有效数字,但我们抄写时应在数字后加一个0,保留三位有效数字.
2.50×2.00×1.52=7.60