极大似然估计与似然比检验的几点注记
成平
2012-7-26 10:48:28 来源：《概率统计》2003年第1期
作者简介：成平中科院数学与系统科学研究院系统所，北京 100080 引言
从它们定义可看出。它们都是从产生当前样本x的可能大小，也就是似然函数的大小出发，取使得似然函数达到最大的未知参数作为未知参数的估计就是θ的MLE。对比在零假设H[,0]下使之达到极大似然函数与使之在全参数空间似然函数达到极大之比，就是似然比检验统计量，它们都是很直观的，因此它们在统计推断中，是很重要、很普遍使用的方法，自产生以来，就是统计学者所感兴趣、研究的主题之一，首先为R.A.Fisher及G.A.Barnardt提倡使用，为英国学派所极端重视，甚至到了不用似然方程的文章就不受欢迎的程度，可见其重要性，确
有它的优良性。MLE有三条重要性质：一是不变性，也就是若
，二是在一些
正则条件下，MLE是相合的，因此可能产生其三，它的渐近正态性。虽然这些正则条件是很普遍的，但是有些现实，正则条件是不满足的，必须引起我们的注意和探讨。本文就是为此，举出几个例子，以及解决这类问题的办法，提供参考，以便大家探讨。
一、非正则的例子
非正则情况也绝非我们在日常工作中不会碰到的情况。有些是从理论的兴趣，或者说，从数学严格意义下提出来的，但不少是从应用统计中提出来的，我们必须作出回答，给出办法加以处理，本节就举些例子来说明。 例1
不唯一，但皆收敛于真值θ，只是收敛优势不同。设X服从(θ
-1/2;θ+1/2)上的均匀分布，θ∈R[1]。令x[,(1)],x[,(n)]分别表示简单抽样中的极小值与极大值，则对任意0≤p≤1，px[,(1)]+(1-p)x[,(n)]都是θ的MLE。而且都收敛于真值θ，只是收敛好坏有差异，一般取(x[,(1)]+x[,(n)]/2为宜。
例2令密度函数f(x)在(a,b)上为正的连续可微的函数，但在(a，b)之外为零，现考虑分布密度族f(x-θ)，θ∈R[1]，求θ的MLE，此估计可能有各种不同的极限分布，例如：
ⅰ)f(x)为(a,b)上单调降的函数，f(0+a)＜∞的θ的MLE是x[,(1)]，n(x[,(1)]-θ)的极限分布是指数分布，但当f(x)=c(x-a)[-∞],0＜α＜1，当a
＜x＜a+δ内则n[1/(1-α)](x[,(1)]-θ)的权限分布为1-e[-c/(1-α)x[-α+1]],x＞0；
ⅱ)f(x)为(a,b)上单调增加函数，θ的MLE为x[,(n])，其极限分布类似ⅰ)；
极大似然估计与似然比检验的几点注记
