好文档 - 专业文书写作范文服务资料分享网站

质量检验培训课件 第六部分 分析数据处理(修约与剔除)

天下 分享 时间: 加入收藏 我要投稿 点赞

第六章

分析数据处理

一. 有效数字

当该近似数的绝对误差的模,小于最末一位数字所对应的单位量值的一半时,从左边的第一个非零数字算起,直至最末一位数字为止的所有数字,即为有效数字。

由此可以得出关于近似数有效数字的概念:当该近似数的绝对误差的模小于0.5(末)时,从左边的第—个非零数字算起,直到最末—位数字为止的所有数字。根据这个概念,3.14有3位有效数字。 测量结果的数字,其有效位数代表结果的不确定度。例如:某长度测量值为

4

12.3mm,有效位数为3位;若是12.30mm,有效位数为4位。它的绝对误差的模分别小于o.5(末),即分别小于O.05mm和O.005mm。

二、“四舍六入五考虑”原则 四要舍,六要入

逢五看前后,五后有数则进一,五后无数看奇偶,奇进偶不进 例如:

? 拟舍弃的数字最左一位小于5时,舍去;如34.945修约成3位,则34.9 ?

? 拟舍弃的数字最左一位大于5时(包括等于5而其后还有非0数字),则进1,

4

即保留的末位数再加1;如34.965修约成3位,则35.0 ?

? 拟舍弃的数字最左一位恰好等于5(其后没有数字或皆为0),则看5前面的数字:为奇数时去5进1,为偶数时去5不进,即使数据的末位数总是偶数,如:573.5修约成3位为574; 三、对“

1”、“2”、“5”

间隔修约方法

GB8170-87《数值修约规则》对“1”、“2”、“5”间隔修约方法分别作了规定

1)如为修约间隔整数倍一系列数中,只

4

有一个数最接近拟修约数,则该数就是修约数;如1.15001按0.1间隔修约1.2。

2)如为修约间隔整数倍一系列数中,有连续两个数同等地接近拟修约数,则这两个数中,只有为修约间隔偶数倍的那个数才是修约数;如1150按100间隔修约 为1200。

3)在进行修约时,不要多次连续地修约。

4

质量检验培训课件 第六部分 分析数据处理(修约与剔除)

第六章分析数据处理一.有效数字当该近似数的绝对误差的模,小于最末一位数字所对应的单位量值的一半时,从左边的第一个非零数字算起,直至最末一位数字为止的所有数字,即为有效数字。由此可以得出关于近似数有效数字的概念:当该近似数的绝对误差的模小于0.5(末)时,从左边的第—个非零数字算起,直到最末—位数字为止的所有
推荐度:
点击下载文档文档为doc格式
1g7yl6v4e16trx01723y3gzju6vsv000djm
领取福利

微信扫码领取福利

微信扫码分享