#
第3章 多元线性回归
思考与练习参考答案
讨论样本容量n与自变量个数p的关系，它们对模型的参数估计有何影响
答：在多元线性回归模型中，样本容量n与自变量个数p的关系是：n>>p。如果n<=p对模型的参数估计会带来很严重的影响。因为： 1. 在多元线性回归模型中，有p+1个待估参数β，所以样本容量的个数应该大于解释变量的个数，否则参数无法估计。
2. 解释变量X是确定性变量，要求rank(X)?p?1?n，表明设计矩阵X中的自变量列之间不相关，即矩阵X是一个满秩矩阵。若
rank(X)?p?1，则解释变量之间线性相关，(X?X)?1是奇异阵，则?的估计不稳定。
?2?SSE?n?p随机误差项??1?证明 ε的方差
2
的无偏估计。
证明:
@
n111???SSE?(e?e)?ei2,?n?p?1n?p?1n?p?1i?12?E(?e)??D(ei)???(1?hii)??2i2i?1i?1i?1n1?)??E(?E(?ei2)??2n?p?1i?12nnn2?(1?h)??iii?1n2(n??hii)??2(n?p?1)
i?1n 一个回归方程的复相关系数R=，样本决定系数R2=，我们能判断这个回归方程就很理想吗
答：不能断定这个回归方程理想。因为：
1. 在样本容量较少，变量个数较大时，决定系数的值容易接近1，
而此时可能F检验或者关于回归系数的t检验，所建立的回归方程都没能通过。
2. 样本决定系数和复相关系数接近于1只能说明Y与自变量X1,X2,…,Xp整体上的线性关系成立，而不能判断回归方程和每个自变量是显著的，还需进行F检验和t检验。
3. 在应用过程中发现，在样本容量一定的情况下，如果在模型中增加解释变量必定使得自由度减少，使得 R2往往增大，因此增加解释变量（尤其是不显著的解释变量）个数引起的R2的增大与拟合好坏无关。 验证
)
?*??jLjjLyy?,?jnj?1,2,...,p其中: Ljj??(Xij?Xj)2i?1证明：多元线性回归方程模型的一般形式为：
y??0??1x1??2x2?
??pxp??
其经验回归方程式为
????x???x????y01122?x??pp，
??y???x???x????x， 又?01122pp?(x?x)???(x?x)????(x?x)， ??y??故y111222ppp?(x?x)???(x?x)????(x?x)， ?i?y??中心化后，则有y111222ppp左右同时除以Lyy?n?(y?y)ii?1n2，
令Ljj??(xij?xj)2,i?1,2,,n，j?1,2,,p
i?1*
L?i?y?(xi1?x1)y?(xi2?x2)?L22???1?11??2LyyL11LyyL22LyyLpp?(xip?xp)???pLppLyy
样本数据标准化的公式为
xij??xij?xjLjj,yi??yi?yLyy,i?1,2,,n，j?1,2,,p
则上式可以记为
?yi??1?L11Lyy??x??2?i1L22Lyy?x??i2???LpppLyy??xip
???x??????x????1i12i2???x???pip则有
????jLjjLyy?,j?1,2,?j,p
F
F?(n?p?1)/p 验证决定系数R2与F值之间的关系式：R2?》
证明：
F?SSR/p,SSE/(n?p?1)F?SSE?SSR??pn?p?1F?SSE?pSSRSSRF?pFn?p?1?R2?????SSTSSR?SSEF?SSE?p?SSEF?p?n?p?1F?(n?p?1)/pn?p?1
研究货运总量y（万吨）与工业总产值x1（亿元）、农业总产值x2（亿元）、居民非商品支出x3（亿元）的关系。数据见表（略）。 （1）计算出y，x1，x2，x3的相关系数矩阵。 SPSS输出如下：
应用回归分析-第3章课后习题参考答案
