加减运算

    在参与运算的数不太多时,运算结果值最后位的位置和绝对误差最大数的最后位相同.

    例如: y = 3.2864 + 314.513.23

    绝对误差最大数314.5,它的最后位是小数点后面第一位,因此y最后位的位置也是小数点后面第一位.运算过程如下:

    乘除运算

    在参与乘除运算时,运算结果的有效数字位数和运算数据中最少的位数相同.

    

    运算数据中最少位数是三位,因此y的有效数字也只有三位.运算过程如下:

    这里的8.2在形式上是二位有效数字,但实质上已近三位数字的数值,因此通常数据的第一个数字大于或者等于“8”时,就多算一位数字.如“8.2”可认为是三位数,“8.23”就是四位数字,等等.

    其他运算

    初等函数的有效数字位数和它的自变量位数相同.

    例如:

    

    注意:2是整数,ln2=0.693是根据ln3.433.43是三位数而决定的.

    y =sin25.3°=sin0.442=0.428

    

    y = tg25.3°= tg0.442=0.473

    注意:三角函数中的角度,经常以“弧度”为单位运算.