辽宁石油化工大学 概率论与数理统计教案
第七章 参 数 估 计
【基本要求】1、理解参数估计的概念，熟练掌握点估计的矩估计法和极大似然估计法；
2、掌握估计量好坏的三个评选标准；
3、理解理解区间估计的概念，熟练掌握单个正态总体的均值和方差的置信区间；知道两个正态总体的均值差和方差比的区间估计。
【本章重点】参数估计的矩估计法和极大似然估计法；区间估计的概念 【本章难点】估计的矩估计法和极大似然估计法；区间估计的概念 【学时分配】9学时 【授课内容】
前 言
上一章，我们讲了数理统计的基本概念，从这一章开始，我们研究数理统计的重要内容之一即统计推断。
所谓统计推断，就是根据从总体中抽取得的一个简单随机样本对总体进行分析和推断。即由样本来推断总体，或者由部分推断总体。——这就是数理统计学的核心内容。它的基本问题包括两大类问题，一类是估计理论；另一类是假设检验。而估计理论又分为参数估计与非参数估计，参数估计又分为点估计和区间估计两种，这里我们主要研究参数估计这一部分数理统计的内容。
§7.1 点估计
统计推断的目的，是由样本推断出总体的具体分布。一般来说，要想得到总体的精确分布是
一致?F(x)（以概率十分困难的。由第六章知道：只有在样本容量n充分大时，经验分布函数Fn(x)???1），但在实际问题中，并不容许n很大。而由第五章的中心极限定理，可以断定在某些条件下的
辽宁石油化工大学 概率论与数理统计教案
分布为正态分布，也就是说，首先根据样本值，对总体分布的类型作出判断和假设，从而得到总体的分布类型，其中含有一个或几个未知参数；其次，对另外一些并不关心其分布类型的统计推断问题，只关心总体的某些数字特征，如期望、方差等，通常把这些数字特征也称为参数。这时，抽样的目的就是为了解出这些未知的参数。
例1：设某总体X~p(?)，试由样本(X1,X2,?,Xn)来估计参数?。
例2：设某总体X~N(?,?2)，试由样本(X1,X2,?,Xn)来估计参数?，?2。
在上述二例中，参数的取值虽未知，但根据参数的性质和实际问题，可以确定出参数的取值范围，把参数的取值范围称为参数空间，记为?。
如：例1：?={?|??0} 例2：?={(?,?2)|??0,??R}
1.定义：所谓参数估计，是指从样本(X1,X2,?,Xn)中提取有关总体X的信息，即构造样本的函数——统计量g(X1,X2,?,Xn)，然后用样本值代入，求出统计量的观测值g(x1,x2,值来作为相应待估参数的值。
此时，把统计量g(X1,X2,?,Xn)称为参数的估计量，把g(x1,x2,?,xn)称为参数的估计值。
,xn)，用该
? 点 估 计2.类型：包括?
?区间估计1)点估计：指对总体分布中的参数?，根据样本(X1,X2,?,Xn)及样本值(x1,x2,?,xn)，构造一统计量g(X1,X2,?,Xn)，将g(x1,x2,?,xn)作为?的估计值，则称g(X1,X2,?,Xn)为?的点估计量，简称点估计。记为?=g(X1,X2,?,Xn)。
2)区间估计：指对总体中的一维参数?，构造两个统计量：
??1=g1(X1,X2,?,Xn) ?2=g2(X1,X2,?,Xn)
??辽宁石油化工大学 概率论与数理统计教案
使得待估参数以较大的概率落在[?1，?2]内，此时，称[?1，?2]为?的区间估计。
关于点估计的一般提法：设?为总体X分布函数中的未知参数或总体的某些未知的数字特征，(X1,X2,?,Xn)是来自X的一个样本，(x1,x2,?,xn)是相应的一个样本值,点估计问题就是构
?????(X,X,造一个适当的统计量?12?(X,X,们称?12?(x,x,?,x)作为未知参数?的近似值，我,Xn)，用其观察值?12n?(x,x,?,x)为参数?的点估计值，在不至于混淆的,Xn)为参数?的点估计量，?12n情况下，统称为点估计。由于估计量是样本的函数，因此对于不同的样本值，?的估计值是不同的。
点估计量的求解方法很多，这里主要介绍矩估计法和极大似然估计法，除了这两种方法之外，还有Bayes方法和最小二乘法等。 一、矩估计法：（K.Pearson提出） 1.基本思想：
矩估计法是一种古老的估计方法。大家知道，矩是描写随机变量的最简单的数字特征。样本来自于总体，从前面可以看到样本矩在一定程度上也反映了总体矩的特征，且在样本容量n增大
1n的条件下，样本的k阶原点矩Ak??Xik以概率收敛到总体X的k阶原点矩mk?E(Xk)，即
ni?1pAk???mk(n??)k?1,2,，因而自然想到用样本矩作为总体矩的估计。
2.具体做法：
假设??(?1,?2,?,?k)为总体X的待估参数（???），(X1,X2,?,Xn)是来自X的一个样本，
?A1?m1?A?m1n?2l2令? 即 Al??Xi?ml?EXl，l?1,2,?,k
ni?1???Ak?mk??(??,???得一个包含k个未知数?1,?2,?,?k的方程组，从中解出??(?1,?2,?,?k)的一组解?12,?,?k)，
辽宁石油化工大学 概率论与数理统计教案
然后用这个方程组的解?1,?2,?,?k分别作为?1,?2,?,?k的估计量，这种估计量称为矩估计量，矩估计量的观察值称为矩估计值。
该方法称为矩估计法。（只需掌握l?1,2的情形）
例3：设总体X的均值?及方差?2都存在但均未知，且有?2>0，又设(X1,X2,?,Xn)是来自总体X的一个样本，试求?，?2的矩估计量。
????m1?E(X)?????A1解：因为? 令 ?222222m?E(X)?D(X)?[E(X)]????????A2?2???X????A??n 所以得 ??21?21n12222??A?A???(Xi)?X??(Xi?X)21????ni?1ni?1注：上述结果表明：总体均值与方差的矩估计量的表达式不会因总体的分布不同而异；同时，我们又注意到，总体均值是用样本均值来估计的，而总体方差（即总体的二阶中心矩）却不是用样本方差来估计的，而是用样本二阶中心矩来估计。那么，能否用S2来估计?2呢？能的话，S2与
B2哪个更好？下节课将再作详细讨论。
这样看来，虽然矩估计法计算简单，不管总体服从什么分布，都能求出总体矩的估计量，但它仍然存在着一定的缺陷：对于一个参数，可能会有多种估计量。比如下面的例子：
例4：设X~P(k,?)，?未知，(X1,X2,?,Xn)是X的一个样本，求?。
?E(X)??，D(X)??
n1??X D(X)??????(Xi?X)2 所以由例3可知：E(X)?????ni?1?1n由以上可看出，显然X与?(Xi?X)2是两个不同的统计量，但都是?的估计。这样，就会给应
ni?1用带来不便，为此，R.A.Fisher提出了以下的改进的方法：
辽宁石油化工大学 概率论与数理统计教案
二、最（极）大似然估计法：（R.A.Fisher提出） 1.基本思想：
若总体X的分布律为P(X?x)?p(x;?)[或密度函数为f(xi;?)]，其中??(?1,?2,?,?k)为待估参数（???）。
设(X1,X2,?,Xn)是来自总体X的一个样本，(x1,x2,样本(X1,X2,?,Xn)取到观测值(x1,x2, p?P{X1?x1,X2?x2,(x1,x2,n,xn)是相应于样本的一样本值，易知：
,xn)的概率为
n,Xn?xn}??p(xi;?)，[或样本(X1,X2,i?1,Xn)落在点
,xn)的邻域（边长分别为dx1,dx2,,dxn的n维立方体）内的概率近似地为
p??f(xi;?)dxi（微分中值定理）]，令L(?)?L(x1,x2,i?1n,xn)??p(xi;?)[或
i?1nL(?)?L(x1,x2,,xn)??f(xi;?)]，则概率p随?的取值变化而变化，它是?的函数，L(?)称为
i?1样本的似然函数（注意，这里的x1,x2,,xn是已知的样本值，它们都是常数）。如果已知当???0??时使L(?)取最大值，我们自然认为?0作为未知参数?的估计较为合理。
最大似然方法就是固定样本观测值(x1,x2,L(x1,x2,xn)，在?取值的可能范围?内，挑选使似然函数
?作为参数?的估计值，即,xn;?)达到最大（从而概率p达到最大）的参数值?L(x1,x2,?)?maxL(x,x,,xn;?12????与样本值(x,x,,xn;?)，这样得到的?12xn)有关，常记为
?(x,x,?12?(X,X,xn)，称之为参数?的最大似然估计值，而相应的统计量?12Xn)称为参数?的最
大似然估计量。这样将原来求参数?的最大似然估计值问题就转化为求似然函数L(?)的最大值问题了。 2.具体做法:
辽宁石油化工大学 概率论与数理统计教案 第七章参数估计 【基本要求
