第三讲 经典单方程计量经济学模型:多元线性回归模型
学习目标:
? 理解多元线性回归模型的基本表达形式
? 理解多元线性回归模型的基本假设,并比较与一元线性回归模型的基本假设 ? 掌握多元线性回归模型参数估计的普通最小二乘法 ? 掌握多元线性回归模型的统计学检验并理解其作用和意义
——拟合优度检验(调整的可决系数、赤池信息准则和施瓦茨准则) ——方程总体线性的显著性检验(F检验) ——变量的显著性检验(t检验) ? 理解多元线性回归模型的预测问题
§3.1 多元线性回归模型
一、多元线性回归模型的一般形式
多元线性回归模型:表现在线性回归模型中的解释变量有多个。 Yi??0??1X1i??2X2i??????kXki??i其中:k为解释变量的数目,?j称为回归系数;?j也被称为偏回归系数,表示在其他解释变量保持不变的情况下,Xj每变化1个单位时,Y的均值E(Y)的变化; 或者说?j给出了X j的单位变化对Y均值的“直接”或“净(”不含其他变量)影响。
习惯上:把常数项看成一虚变量的系数,该虚变量的样本观测值始终取1。于是,模型中解释变量的数目为(k+1) 练习题:
?=356?1.5X,1. 产量(X,台)与单位产品成本(Y,元/台)之间的回归方程为Y这说明__________。
A 产量每增加一台,单位产品成本增加356元 B 产量每增加一台,单位产品成本减少1.5元 C 产量每增加一台,单位产品成本平均增加356元 D 产量每增加一台,单位产品成本平均减少1.5元
2. 在二元线性回归模型Yi??0??1X1i??2X2i?ui中,?1表示_________。 A 当X2不变时,X1每变动一个单位Y的平均变动。 B 当X1不变时,X2每变动一个单位Y的平均变动。 C 当X1和X2都保持不变时,Y的平均变动。 D 当X1和X2都变动一个单位时,Y的平均变动。
二、多元线性回归模型的基本假定
假设1. 回归模型是正确设定的;模型没有设定偏误(specification error); 假设2. 解释变量是非随机的或固定的,且各X之间互不相关(无多重共线性);
假设3. 解释变量X在所抽取的样本中具有变异性,随着样本容量的无限增加,解释变量X的样本方差趋于一个非零的有限常数。避免伪回归问题(spurious regression problem);
假设4. 随机误差项?具有零均值、同方差和不序列相关性: E(?i)=0 i=1,2, …,n Var (?i)=?2 i=1,2, …,n Cov(?i, ?j)=0 i≠j i,j= 1,2, …,n 假设5. 随机误差项?与解释变量X之间不相关: Cov(Xi, ?i)=0 i=1,2, …,n 假设6. ?服从零均值、同方差、零协方差的正态分布 ?i~N(0, ?2 ) i=1,2, …,n
§3.2 多元线性回归模型的参数估计
一、普通最小二乘估计 *二、最大或然估计(了解) *三、矩估计 (了解) 四、样本容量问题
1. 最小样本容量
所谓“最小样本容量”,即从最小二乘原理和最大似然原理出发,欲得到参数估计量,不管其质量如何,所要求的样本容量的下限。
样本最小容量必须不少于模型中解释变量的数目(包括常数项),即 n ≥ k+1 因为,无多重共线性要求:秩(X)=k+1
2. 满足基本要求的样本容量 ? 从统计检验的角度: n?30 时,Z检验才能应用; n-k≥8时, t分布较为稳定
? 一般经验认为:
当n≥30或者至少n≥3(k+1)时,才能说满足模型估计的基本要求。 模型的良好性质只有在大样本下才能得到理论上的证明
五、估计实例
建立中国城镇居民人均消费支出的多元线性回归模型
? ?
被解释变量:地区城镇居民人均消费CONSU 解释变量:
——地区城镇居民人均可支配收入INCOU ——前一年地区城镇居民人均消费CONSU1 样本:2006年,31个地区
?
§3.3 多元线性回归模型的统计检验
一、拟合优度检验
1.可决系数与调整的可决系数
问题:在应用过程中发现,如果在模型中增加一个解释变量, R2往往增大(Why?)这就给人一个错觉:要使得模型拟合得好,只要增加解释变量即可。—— 但是,现实情况往往是,由增加解释变量个数引起的R2的增大与拟合好坏无关,R2需调整。
调整的可决系数(adjusted coefficient of determination)
在样本容量一定的情况下,增加解释变量必定使得自由度减少,所以调整的思路是:将残差平方和与总离差平方和分别除以各自的自由度,以剔除变量个数对拟合优度的影响:
R2?1?RSS/(n?k?1)TSS/(n?1)
其中:n-k-1为残差平方和的自由度,n-1为总体平方和的自由度。 *2.赤池信息准则和施瓦茨准则
为了比较所含解释变量个数不同的多元回归模型的拟合优度,常用的标准还有:
赤池信息准则(Akaike information criterion, AIC) 施瓦茨准则(Schwarz criterion,SC)
这两准则均要求仅当所增加的解释变量能够减少AIC值或AC值时才在原模型中增加该解释变量。
二、方程的显著性检验(F检验)
方程的显著性检验,旨在对模型中被解释变量与解释变量之间的线性关系在
总体上是否显著成立作出推断。
? 方程显著性的F检验 ——即检验模型
Yi=?0+?1X1i+?2X2i+ ? +?kXki+?i i=1,2, ?,n 中的参数?j是否显著不为0。
(1)提出如下原假设与备择假设:
H0: ?1=?2= ? =?k=0
H1: ?j不全为0 (j=1,2,…,k)
(2)F检验的思想来自于总离差平方和的分解式: TSS=ESS+RSS
?i2是解释变量X的联合体对被解由于回归平方和ESS??y释变量Y的线性作用的结果,考虑比值 ESS/RSS???e?y2i2i
如果这个比值较大,则X的联合体对Y的解释程度高,可认为总体存在线性关系,反之总体上可能不存在线性关系。
因此,可通过该比值的大小对总体线性关系进行推断。
根据数理统计学中的知识,在原假设H0成立的条件下,统计量
F?ESS/kRSS/(n?k?1)服从自由度为(k , n-k-1)的F分布。
给定显著性水平?,可得到临界值F?(k,n-k-1),由样本求出统计量F的数值,通过
F? F?(k,n-k-1) 或 F≤F?(k,n-k-1)
来拒绝或接受原假设H0,以判定原方程总体上的线性关系是否显著成立。
三、变量的显著性检验(t检验)
?
方程的总体线性关系显著?每个解释变量对被解释变量的影响都是显著的。
因此,必须对每个解释变量进行显著性检验,以决定是否作为解释变量被保留在模型中。
这一检验是由对变量的 t 检验完成的。
?
?
俗话说得好:“滴水之恩,当涌泉相报”.知恩图报,是做人的良知;忘恩负义,被人们所不齿。 何谓恩情?恩情即施惠人给受惠人的好处,恩惠情谊。恩情言其大,有“养育之恩”、“救命之恩” ;恩情言其小,有“滴水之恩”、 “帮扶之恩”……大恩大德,人们会没齿不忘,刻骨铭心;小的恩惠,我们同样会念念不忘,记挂在心。 恩情,难以用确切的言辞来表述,只能用心灵去感受,用行动去报答。 恩情,就是当你身处困境时,有人愿意帮你的那份情;恩情,就是当你失意落魄时,有人不离不弃的那份情;恩情,就是当你遇事有难时,有人无私帮助你的那份情。 做人千万不能忘恩,忘了恩,就负了义;忘了恩,就负了人;忘了恩,就没有了良心! 何谓真情?真情,就是寒冷时的一把火,让人感觉暖意融融;真情,就是严冬里的一轮暖阳,它的光和热都洒在了你的身上;真情,就是黑暗中的一盏灯,照亮了你前行的方向;真情就是一眼清泉,滋润着每个人的心田,让我们精神旺盛,生命茁壮! 真情,就是一首动听的歌曲,它能将你的烦恼驱赶;真情,就是一个灿烂的微笑,它能让你心花怒放;真情,就是一场及时雨,它能让你干涸的心灵滋润舒畅! 真情,是无私的奉献;真情,是真诚的情谊;真情,是纯洁的爱心。做人,真情不可少,感恩最重要。一颗感恩的心,人人都需要;有了感恩的心,彼此都温暖;捧出感恩的心,个个皆欢笑。 恩情很贵,真心难得,真情莫伤。伤了真情,就伤了真心,伤了真心,就伤了好人,伤了好人,就落下了悔恨。 恩情最怕忘,真情最怕伤! 母亲的恩情不能忘,生我九死一生,养我含辛茹苦,襁褓中奶我喂我,怀抱中亲我宠我,双手中托我举我,出门时想我盼我,病痛中怜我惜我。