第六章
分析数据处理
一. 有效数字
当该近似数的绝对误差的模,小于最末一位数字所对应的单位量值的一半时,从左边的第一个非零数字算起,直至最末一位数字为止的所有数字,即为有效数字。
由此可以得出关于近似数有效数字的概念:当该近似数的绝对误差的模小于0.5(末)时,从左边的第—个非零数字算起,直到最末—位数字为止的所有数字。根据这个概念,3.14有3位有效数字。 测量结果的数字,其有效位数代表结果的不确定度。例如:某长度测量值为
4
12.3mm,有效位数为3位;若是12.30mm,有效位数为4位。它的绝对误差的模分别小于o.5(末),即分别小于O.05mm和O.005mm。
二、“四舍六入五考虑”原则 四要舍,六要入
逢五看前后,五后有数则进一,五后无数看奇偶,奇进偶不进 例如:
? 拟舍弃的数字最左一位小于5时,舍去;如34.945修约成3位,则34.9 ?
? 拟舍弃的数字最左一位大于5时(包括等于5而其后还有非0数字),则进1,
4
即保留的末位数再加1;如34.965修约成3位,则35.0 ?
? 拟舍弃的数字最左一位恰好等于5(其后没有数字或皆为0),则看5前面的数字:为奇数时去5进1,为偶数时去5不进,即使数据的末位数总是偶数,如:573.5修约成3位为574; 三、对“
1”、“2”、“5”
间隔修约方法
GB8170-87《数值修约规则》对“1”、“2”、“5”间隔修约方法分别作了规定
1)如为修约间隔整数倍一系列数中,只
4
有一个数最接近拟修约数,则该数就是修约数;如1.15001按0.1间隔修约1.2。
2)如为修约间隔整数倍一系列数中,有连续两个数同等地接近拟修约数,则这两个数中,只有为修约间隔偶数倍的那个数才是修约数;如1150按100间隔修约 为1200。
3)在进行修约时,不要多次连续地修约。
4
质量检验培训课件 第六部分 分析数据处理(修约与剔除)



