加减运算
在参与运算的数不太多时,运算结果值最后位的位置和绝对误差最大数的最后位相同.
例如: y = 3.2864 + 314.5-13.23
绝对误差最大数314.5,它的最后位是小数点后面第一位,因此y最后位的位置也是小数点后面第一位.运算过程如下:
乘除运算
在参与乘除运算时,运算结果的有效数字位数和运算数据中最少的位数相同.
运算数据中最少位数是三位,因此y的有效数字也只有三位.运算过程如下:
这里的8.2在形式上是二位有效数字,但实质上已近三位数字的数值,因此通常数据的第一个数字大于或者等于“8”时,就多算一位数字.如“8.2”可认为是三位数,“8.23”就是四位数字,等等.
其他运算
初等函数的有效数字位数和它的自变量位数相同.
例如:
注意:2是整数,ln2=0.693是根据ln3.43中3.43是三位数而决定的.
y =sin25.3°=sin0.442=0.428,
y = tg25.3°= tg0.442=0.473.
注意:三角函数中的角度,经常以“弧度”为单位运算.