辽宁石油化工大学 概率论与数理统计教案
①在很多情况下,p(x;?)和f(x;?)关于?可微,因此据似然函数的特点,常把它变为如下形式:lnL(?)??lnf(xi;?)(或?lnp(xi;?)),该式称为对数似然函数。由高等数学知:
i?1i?1nnL(?)与lnL(?)的最大值点相同,令
?lnL(?)?0i?1,2,?,k??i,求解得:???(x1,x2,,xn),从
?(X,X,而可得参数?的极大似然估计量为???12,Xn);
②若p(x;?)和f(x;?)关于?不可微时,需另寻方法。 例5:设X~B(1,p),p为未知参数,(x1,x2,,xn)是一个样本值,求参数p的极大似然估计。
解:因为总体X的分布律为:P{X?x}?px(1?p)1?x,x=0,1
n故似然函数为L(p)??p(1?p)xii?1nn1?xi?pi?1(1?p)?nxin??xii?1n xi?0,1(i?1,2,?n)
而lnL(p)?(?xi)lnp?(n??xi)ln(1?p)
i?1i?1令[lnL(p)]'??xi?1nip?(n??xi)i?1n(p?1)1n???xi?x ?0,解得p的最大似然估计值为pni?11n???Xi?X。 所以p的最大似然估计量为:pni?1例6:设X~N(?,?2),?,?2未知,(X1,X2,?,Xn)为X的一个样本,(x1,x2,?,xn)是
(X1,X2,?,Xn)的一个样本值,求?,?2的极大似然估计值及相应的估计量。
解:?X~f(x;?,?)?12??ne?(x??)22?2x?R
所以似然函数为:L(?,?2)??i?112??e(x??)2?i22??(2??)en2?2?12?2?(xi??)2i?1n
辽宁石油化工大学 概率论与数理统计教案
n1取对数:lnL(?,?)??(ln2??ln?2)?22?22?(xi?1ni??)2
分别对?,?2求导数:
????????1n(lnL)?2?(xi??)??0??????(1)???i?1
?n1n??????(2)2(lnL)???(x??)??0?i224??2?2?i?11n1n1n22由(1)????xi?x,代入(2)????(xi??)??(xi?x)2
ni?1ni?1ni?11n1n2???xi?x;????(xi?x)2 ??,?的极大似然估计值分别为: ?ni?1ni?121n1n2????(Xi?X)2?B2 ???Xi?X,??,?的极大似然估计量分别为:?ni?1ni?12例7:设X~U[a,b] a,b未知,(x1,x2,?,xn)是一个样本值,求a,b的极大似然估计。
?1?解:由于X~f(x)??b?a??0a?x?b其它
?1?(b?a)n?则似然函数为:L(a,b)???0??a?x1,x2,?,xn?b
其它通过分析可知,用解似然方程极大值的方法求极大似然估计很难求解(因为无极值点),所以可用直接观察法:
记x(1)?minxi,x(n)?maxxi,有a?x1,x2,?,xn?b?a?x(1),x(n)?b
1?i?n1?i?n则对于满足条件:a?x(1),x(n)?b的任意a,b有L(a,b)?11 ?nn(b?a)(x(n)?x(1))辽宁石油化工大学 概率论与数理统计教案
即L(a,b)在a?x(1),b?x(n)时取得最大值Lmax(a,b)?(x(n)1 n?x(1))??x?max{x},a,b的极大似然估计量为??x(1)?min{xi},b故a,b的极大似然估计值为a(n)i1?i?n1?i?n??X?max{X}。 ??X(1)?min{Xi},ba(n)i1?i?n1?i?n?1a?x?b1或者令I(a?x?b)??,则X~f(x)?I(a?x?b),
b?a其它?0从而似然函数为:L(a,b)??n1[I(a?xi?b)],记x(1)?minxi,x(n)?maxxi,可得
i?1(b?a)n1?i?n1?i?nnL(a,b)??11[I(a?x?x?b)]?,故a,b的极大似然估计量为(1)(n)i?1(b?a)n(x(n)?x(1))n??X。 ??X(1)ba(n)3.极大似然估计量有如下的性质:
~设?的函数u?u(?),???,具有单值反函数???(u)。又设?是X的密度函数f(x;?)[或~~?u(?)是u(?)的极大似然估计。 分布列p(x;?)](形式已知)中参数?的极大似然估计,则?1n???(Xi?X)2 而例如,在例6中得到?的极大似然估计为?ni?122???(?2)??2具有单值反函数?2??2(??0) 据上述性质有:
?????标准差?的极大似然估计为?21n(Xi?X)2 ?ni?1课后作业:1、认真阅读P165-169;
2、作业:P183 1-4;7
3、预习:估计量的评选标准和区间估计
辽宁石油化工大学 概率论与数理统计教案
§7.2估计量的评选标准
0、引言
从上一节得到:对于同一参数,用不同的估计方法求出的估计量可能不相同,用相同的方法也可能得到不同的估计量,也就是说,同一参数可能具有多种估计量,而且,原则上讲,其中任何统计量都可以作为未知参数的估计量,那么采用哪一个估计量为好呢?这就涉及到估计量的评价问题,而判断估计量好坏的标准是:有无系统偏差;波动性的大小;伴随样本容量的增大是否是越来越精确,这就是估计的无偏性,有效性和相合性。 一、无偏性
设?是未知参数?的估计量,则?是一个随机变量,对于不同的样本值就会得到不同的估计值,我们总希望估计值在?的真实值左右徘徊,而若其数学期望恰等于?的真实值,这就导致无偏性这个标准。
定义1:设???(X1,X2,?,Xn)是未知参数?的估计量,若E(?)存在,且对????有
E(?)=?,则称?是?的无偏估计量,称?具有无偏性。
????????在科学技术中,E(?)-?称为以?作为?的估计的系统误差,无偏估计的实际意义就是无系统误差。
例1:设总体X的k阶中心矩mk?E(Xk)(k?1)存在,(X1,X2,?,Xn)是X的一个样本,证
1nk明:不论X服从什么分布,Ak??Xi是mk的无偏估计。
ni?1k证明:?X1,X2,?Xn与X同分布,∴E(Xi)?E(Xk)?mki?1,2,?,n
??1nk∴E(Ak)??E(Xi)?mk 特别,不论X服从什么分布,只要E(X)存在,X总是E(X)的无
ni?1辽宁石油化工大学 概率论与数理统计教案
偏估计。
例2:设总体X的E(X)??,D(X)??2都存在,且?2?0,若?,?2均为未知,则?2的估计
1n???(Xi?X)2是有偏的。 量?ni?121n1n2???(Xi?X)??Xi2?X2, 证明:??ni?1ni?121n1n22?)??E(Xi)?E(X)??E(X2)?(DX?(EX)2)?E(?ni?1ni?12
?(???)?(22?2n??2)?n?12?n?2的两边同乘以若在?n,则所得到的估计量就是无偏了 n?1即E(nn?2)??2)??2, ?E(?n?1n?11nn22?恰恰就是样本方差S?(Xi?X)2 而??n?1i?1n?1可见,S2可以作为?2的估计,而且是无偏估计。因此,常用S2作为方差?2的估计量。从
?2的估计好。 无偏的角度考虑,S2比B2作为?在实际应用中,对整个系统(整个实验)而言无系统偏差,就一次实验来讲,??可能偏大也可能偏小,实质上并说明不了什么问题,只是平均来说它没有偏差。所以无偏性只有在大量的重复实验中才能体现出来;另一方面,我们注意到:无偏估计只涉及到一阶矩(均值),虽然计算简便,但是往往会出现一个参数的无偏估计有多个,而无法确定哪个估计量好。
x?1???e??例3:设总体X~P(?),密度为p(x;?)???0??x?0 其中??0为未知,又
其它
辽宁石油化工大学 概率论与数理统计教案 第七章参数估计 【基本要求
![](/skin/haowen/images/icon_star.png)
![](/skin/haowen/images/icon_star.png)
![](/skin/haowen/images/icon_star.png)
![](/skin/haowen/images/icon_star.png)