好文档 - 专业文书写作范文服务资料分享网站

实验数据处理之有效数字运算规则

天下 分享 时间: 加入收藏 我要投稿 点赞

实验数据处理之有效数字运算规则

有效数字运算规则

间接测量的计算过程即为有效数字的运算过程,存在不确定度的传递问题。严格说来,应根据间接测量的不确定度合成结果来确定运算结果的有效数字。但是在没有进行不确定度估算时,可根据下列的有效数字运算法则粗略地算出结果。

有效数字运算总的原则是:运算结果只保留一位(最多两位)欠准确数字。 1.加减运算

根据不确定度合成理论,加减运算结果的不确定度,等于参与运算的各量不确定度平方和的开方,其结果大于参与运算各量中的最大不确定度。如: N x y

UN x 2x U2y U(或Uy)

因此,加减运算结果的有效数字的末位应与参与运算的各数据中不确定度最大的末位对齐,或根据有效数字与不确定度的关系,计算结果的欠准确数字与参与运算的各数值中最先出现的欠准确数字对齐。下面例题中在数字上加一短线的为欠准确数字。

32.1 3.235和116.9 1.652的计算结果各应保留几位数字? 先观察一下具体计算过程: 32.1 3.235

35.335 116.91.*****.248

可见,一个数字与一个欠准确数字相加或相减,其结果必然是欠准确数字。例3中各数值最先出现欠准确数字的位置在小数点后第一位,按照运算结果保留一位欠准确数字的原则 32.1 3.235 35.3 116.9 1.652 115.2

分别为三位有效数字和四位有效数字, 2.乘除运算

乘除运算结果的相对不确定度,等于参与运算各量的相对不确定度平方和的开方,因此运算结果的相对不确定度大于参与运算各量中的最大相对不确定度。我们知道,有效数字位数越少,其相对不确定度越大。所以,乘除运算结果的有效数字位数,与参与运算各量中有效数字位数最少的相同。

1.1111 1.11的计算结果应保留几位数字? 计算过程如下:

1.1111 1.11 ***** ***** ***** 1.*****

因为一个数字与一个欠准确数字相乘,其结果必然是欠准确数字。所以,由上面的运算过程

可见,小数点后面第二位的“3”及其后的数字都是欠准确数字。按照保留一位欠准确数字的原则

为三位有效数字。这与上面叙述的乘除运算法则是一致的。即在该例中,五位有效数字与三1.1111 1.11 1.23

位有效数字相乘,计算结果应为三位有效数字,即与有效数字位数少的相同。

除法是乘法的逆运算,取位法则与乘法相同,这里不再举例说明。 对于一个间接测量,如果它是由几个直接测量值通过相乘除运算而得到的,那么,在进行测量时应考虑各直接测量值的有效数字位数要基本相仿,或者说它们的相对不确定度要比较接近。如果相差悬殊,那么精度过高的测量就失去意义。 3.乘方、立方、开方运算

运算结果的有效数字位数与底数的有效位数相同。 4.对数、三角函数运算

前面介绍的有效数字四则运算法则,是根据不确定度合成理论和有效数字的定义总结出来的。所以,对数、三角函数的计算必须按照

不确定度传递公式,先求出函数值的不确定度,然后根据测量结果最后一位数字与不确定度对齐的原则来决定有效数字。 a 3068 2,求y lna ? 按照不确定度传递公式 Uy 1

所以 a3068y lna 8.0288Ua 1 2 0.0007 或 y 8.0288 0.0007 60 0 3 ,求x sin ? 由不确定度传递公式

Ux |cos |U |cos60 |3 60 180 0.0004 所以 x sin60 0 0.8660 或 x 0.8660 0.0004

当直接测量的不确定度未给出时,上述过程也可简化为通过改变自变量末位的一个单位,观察函数运算结果的变化情况来确定其有效数字。例如 20 6 中的“6 ”是欠准确数字,由计算器运算结果为sin20 6 0.***-*****5 ,sin20 7 0.***-*****1 ,两种结果在小数点后面第四位出现了差异,所以 sin20 6 0.3436

同理ln598 6.***-*****4 ,ln599 6.***-*****8 ,所以

但是,这种方法是较粗糙的,有时与正确结果会出现明显差异。 5.常数

公式中的常数,如 、e、2等,它们的有效数字位数是无限的,运算时一般根据需要,比参与运算的其它量多取一位有效数字即可。例如:

2S r,r 6.042cm, 取为3.1416, S 3.1416 6.042

129.3 , 取为3.14, 129.3 3.14 132.4rad。 2ln598 6.394 114.7cm。 2

应该指出的是,上述的运算规则不是绝对的。一般说来,为了避免在运算过程中因数字的取舍而引入计算误差,则在运算过程中的中

实验数据处理之有效数字运算规则

实验数据处理之有效数字运算规则有效数字运算规则间接测量的计算过程即为有效数字的运算过程,存在不确定度的传递问题。严格说来,应根据间接测量的不确定度合成结果来确定运算结果的有效数字。但是在没有进行不确定度估算时,可根据下列的有效数字运算法则粗略地算出结果。有效数字运算总的原则是:运算结果只保留一位(最多两位)欠准确数字。
推荐度:
点击下载文档文档为doc格式
98x2h9ay863sk4u09qt56trx0171wu00ewz
领取福利

微信扫码领取福利

微信扫码分享