第1章 多元正态分布
1、在数据处理时，为什么通常要进行标准化处理？ 数据的标准化是将数据按比例缩放，使之落入一个小的特定区间。在某些比较和评价的指标处理中经常会用到，去除数据的单位限制，将其转化为无量纲的纯数值，便于不同单位或量级的指标能够进行比较和加权。其中最典型的就是0-1标准化和Z标准化。 2、欧氏距离与马氏距离的优缺点是什么？
欧氏距离也称欧几里得度量、欧几里得度量，是一个通常采用的距离定义，它是在m维空间中两个点之间的真实距离。在二维和三维空间中的欧氏距离的就是两点之间的距离。
缺点：就大部分统计问题而言，欧氏距离是不能令人满意的。每个坐标对欧氏距离的贡献是同等的。当坐标表示测量值时，它们往往带有大小不等的随机波动，在这种情况下，合理的方法是对坐标加权，使变化较大的坐标比变化较小的坐标有较小的权系数，这就产生了各种距离。当各个分量为不同性质的量时，“距离”的大小与指标的单位有关。它将样品的不同属性之间的差别等同看待，这一点有时不能满足实际要求。没有考虑到总体变异对距离远近的影响。 马氏距离表示数据的协方差距离。为两个服从同一分布并且其协方差矩阵为Σ的随机变量与的差异程度:如果协方差矩阵为单位矩阵,那么马氏距离就简化为欧氏距离,如果协方差矩阵为对角阵,则其也可称为正规化的欧氏距离。
优点：它不受量纲的影响，两点之间的马氏距离与原始数据的测量单位无关。由标准化数据和中心化数据计算出的二点之间的马氏距离相同。马氏距离还可以排除变量之间的相关性的干扰。 缺点：夸大了变化微小的变量的作用。受协方差矩阵不稳定的影响，马氏距离并不总是能顺利计算出。
3、当变量X1和X2方向上的变差相等，且与互相独立时，采用欧氏距离与统计距离是否一致？
统计距离区别于欧式距离，此距离要依赖样本的方差和协方差，能够体现各变量在变差大小上的不同，以及优势存在的相关性，还要求距离与各变量所用的单位无关。如果各变量之间相互独立,即观测变量的协方差矩阵是对角矩阵, 则马氏距离就退化为用各个观测指标的标准差的倒数作为权数的加权欧氏距离。
4、如果正态随机向量X?(X1,X2,LXp)?的协方差阵?为对角阵，证明X的分量是相互独立的随机变量。
解： 因为X?(X1,X2,LXp)?的密度函数为
??12?2?2又由于Σ???O?????? ??2??p?则f(x1,...,xp) 则其分量是相互独立。
1）4）5.y1和y2是相互独立的随机变量，且y1～N（0,，y2～N（3,。
（a）求y12的分布。
??y1（b）如果y???，写出y?y关于y1与y2的表达式，并写出y?y的分布。
?(y2?3)/2??y??1?1（c）如果y??1?且y～N（?，，写出y??y关于y1与y2的表达式，并写出y??y的分）??y2?布。
21）1）解：（a）由于y1～N（0,，所以y1～?（。
1）4） （b）由于y1～N（0,，y2～N（3,；
所以
y2?321）～N（0,；
故y?y?y12?(y2?3222） )2，且y?y～?（第2章 均值向量和协方差阵的检验
1、略
2、试谈Wilks统计量在多元方差分析中的重要意义。 3、题目此略
多元均值检验,从题意知道，容量为9的样本 ，总体协方差未知 假设H0：???0 ， H1：???0 (n=9 p=5)
检验统计量
T2?n(X??0)?S?1(X??0)服从P，n-1的T2分布
/(n-1)
统计量T2实际上是样本均值与已知总体均值之间的马氏距离再乘以n*（n-1）,这个值越大，相等的可能性越小，备择假设成立时，T2有变大的趋势，所以拒绝域选择T2值较大的右侧部分，也可以转变为F统计量
零假设的拒绝区域 {（n-p）/[(n-1)*p]}*T2 >Fp,n?p(?) 1/10*T2 >F5,4(5)
μ0=（ 2972 ）’
样本均值（
）’
（样本均值-μ0）’= 协方差矩阵(降维——因子分析——抽取) Inter-Item Covariance Matrix 人均GDP(元） 三产比重（%） 人均消费(元） 人口增长(%) 文盲半文盲（%) 人均GDP(元） 三产比重（%） 人均消费(元） 人口增长(%) 文盲半文盲（%) 协方差的逆矩阵
计算：
T2=9* *s^-1* ’
F统计量=> 拒绝零假设，边缘及少数民族聚居区的社会经济发展水平与全国平均水平有显着差异。 4、略
第3章 聚类分析
1.、聚类分析的基本思想和功能是什么？
聚类分析的基本思想是研究的样品或指标之间存着程度不同的相似性，于是根据一批样品的多个观测指标，具体找出一些能够度量样品或指标之间的相似程度的统计量，以这些统计量作为划分类型的依据，把一些相似程度较大的样品聚合为一类，把另外一些彼此之间相似程度较大的样品又聚合为另外一类，直到把所有的样品聚合完毕，形成一个有小到大的分类系统，最后再把整个分类系统画成一张分群图，用它把所有样品间的亲疏关系表示出来。功能是把相似的研究对象归类。 2、试述系统聚类法的原理和具体步骤。
系统聚类是将每个样品分成若干类的方法，其基本思想是先将各个样品各看成一类，然后规定类与类之间的距离，选择距离最小的一对合并成新的一类，计算新类与其他类之间的距离，再将距离最近的两类合并，这样每次减少一类，直至所有的样品合为一类为止。 具体步骤：
1、对数据进行变换处理；（不是必须的，当数量级相差很大或指标变量具有不同单位时是必要的） 2、构造n个类，每个类只包含一个样本； 3、计算n个样本两两间的距离ijd； 4、合并距离最近的两类为一新类；
5、计算新类与当前各类的距离，若类的个数等于1，转到6；否则回4；
6、画聚类图；
7、决定类的个数，从而得出分类结果。 3、试述K-均值聚类的方法原理。
K-均值法是一种非谱系聚类法，把每个样品聚集到其最近形心（均值）类中，它是把样品聚集成K个类的集合，类的个数k可以预先给定或者在聚类过程中确定，该方法应用于比系统聚类法大得多的数据组。步骤是把样品分为K个初始类，进行修改，逐个分派样品到期最近均值的类中（通常采用标准化数据或非标准化数据计算欧氏距离）重新计算接受新样品的类和失去样品的类的形心。重复这一步直到各类无元素进出。 4、试述模糊聚类的思想方法。
模糊聚类分析是根据客观事物间的特征、亲疏程度、相似性，通过建立模糊相似关系对客观事物进行聚类的分析方法，实质是根据研究对象本身的属性构造模糊矩阵，在此基础上根据一定的隶属度来确定其分类关系。基本思想是要把需要识别的事物与模板进行模糊比较，从而得到所属的类别。简单地说，模糊聚类事先不知道具体的分类类别，而模糊识别是在已知分类的情况下进行的。模糊聚类分析广泛应用在气象预报、地质、农业、林业等方面。它有两种基本方法:系统聚类法和逐步聚类法。该方法多用于定性变量的分类。 5、略
第4章 判别分析
1、应用判别分析应该具备什么样的条件？
答：判别分析最基本的要求是，分组类型在两组以上，每组案例的规模必须至少在一个以上，解释变量必须是可测量的，才能够计算其平均值和方差。 对于判别分析有三个假设：
（1）每一个判别变量不能是其他判别变量的线性组合。有时一个判别变量与另外的判别变量高度相关，或与其的线性组合高度相关，也就是多重共线性。
（2）各组变量的协方差矩阵相等。判别分析最简单和最常用的的形式是采用现行判别函数，他们是判别变量的简单线性组合，在各组协方差矩阵相等的假设条件下，可以使用很简单的公式来计算判别函数和进行显着性检验。
（3）各判别变量之间具有多元正态分布，即每个变量对于所有其他变量的固定值有正态分布，在这种条件下可以精确计算显着性检验值和分组归属的概率。 2、试述贝叶斯判别法的思路。 答：贝叶斯判别法的思路是先假定对研究的对象已有一定的认识，常用先验概率分布来描述这种认识，然后我们取得一个样本，用样本来修正已有的认识（先验概率分布），得到后验概率分布，各种统计推断都通过后验概率分布来进行。将贝叶斯判别方法用于判别分析，就得到贝叶斯判别。 3、试述费歇判别法的基本思想。 答：费歇判别法的基本思想是将高维数据点投影到低维空间上来，然而利用方差分析的思想选出一个最优的投影方向。因此，严格的说费歇判别分析本身不是一种判别方法，只是利用费歇统计量进行数据预处理的方法，以使更有利于用判别分析方法解决问题。为了有利于判别，我们选择投影方向a应使投影后的k个一元总体能尽量分开（同一总体中的样品的投影值尽量靠近）。k要做到这一点，只要投影后的k个一元总体均值有显着差异，即可利用方差分析的方法使组间平方和尽可能的大。则选取投影方向a使Δ(a)达极大即可。 4、什么是逐步判别分析？ 答：具有筛选变量能力的判别方法称为逐步判别分析法。逐步判别分析法就是先从所有因子中挑选一个具有最显着判别能力的因子，然后再挑选第二个因子，这因子是在第一因子的基础上具有最显着判别能力的因子，即第一个和第二个因子联合起来有显着判别能力的因子；接着挑选第三个因子，这因子是在第一、第二因子的基础上具有最显着判别能力的因子。由于因子之间的相互关系，当引进了新的因子之后，会使原来已引入的因子失去显着判别能力。因此，在引入第三个因子之后就要先检验已经引入的因子是否还具有显着判别能力，如果有就要剔除这个不显着的因子；接着再继续
引入，直到再没有显着能力的因子可剔除为止，最后利用已选中的变量建立判别函数。 5、简要叙述判别分析的步骤及流程 答：（1）研究问题：选择对象，评估一个多元问题各组的差异，将观测个体归类，确定组与组之间的判别函数。
（2）设计要点：选择解释变量，样本量的考虑，建立分析样本的保留样本。
（3）假定：解释变量的正态性，线性关系，解释变量间不存在多重共线性，协方差阵相等。 （4）估计判别函数：联立估计或逐步估计，判别函数的显着性。
（5）使用分类矩阵评估预测的精度：确定最优临界得分，确定准则来评估判对比率，预测精确的统计显着性。
（6）判别函数的解释：需要多少个函数。评价单个函数主要从判别权重、判别载荷、偏F值几个方面；评价两个以上的判别函数，分为评价判别的函数和评价合并的函数。 （7）判别结果的验证：分开样本或交叉验证，刻画组间的差异。 6、略
第5章 主成分分析
1、主成分的基本思想是什么？
在对某一事物进行实证研究时，为更全面、准确地反映事物的特征及其发展规律，往往考虑与其有关的多个指标，在多元统计中也称为变量。一方避免遗漏重要信息而考虑尽可能多的指标看，另一方面考虑指标的增多，又难以避免信息重叠。希望涉及的变量少，而得到的信息量有较多。
主成分的基本思想是研究如何通过原来的少数几个线性组合来解释原来变量绝大多数信息的一种多元统计方法。研究某一问题涉及的众多变量之间有一定的相关性，必然存在着支配作用的公共因素。通过对原始变量相关矩阵或协方差矩阵内部结构关系的研究，利用原始变量的线性组合形成几个无关的综合指标（主成分）来代替原来的指标。通常数学上的处理就是将原来P个指标作线性组合，作为新的综合指标。最经典的做法就是用F1（选取的第一个线性组合，即第一个综合指标）的方差来表达，即Var（F1）越大，表示F1包含的信息越多。因此在所有的线性组合中选取的F1应该是方差最大的，故称F1为第一主成分，如果第一主成分不足以代表原来P个指标的信息，再考虑选取F2即选第二个线性组合，为了有效地反映原来信息，F1已有的信息就不需要再出现在F2中，用数学语言表达就是要求Cov（F1，F2）=0则称F2为第二主成分，依此类推可以构造出第三、第四······，第P个主成分。
2、主成分在应用中的主要作用是什么？
作用：利用原始变量的线性组合形成几个综合指标（主成分），在保留原始变量主要信息的前提下起到降维与简化问题的作用，使得在研究复杂问题时更容易抓住主要矛盾。通过主成分分析，可以从事物之间错综复杂的关系中找出一些主要成分，从而能有效利用大量数据进行定量分析，解释变量之间的内在关系，得到对事物特征及其发展规律的一些深层次的启发，把研究工作引向深入。主成分分析能降低所研究的数据空间的维数，有时可通过因子载荷aij的结论，弄清X变量间的某些关系，多维数据的一种图形表示方法，用主成分分析筛选变量，可以用较少的计算量来选择，获得选择最佳变量子集合的效果。
3.由协方差阵出发和由相关阵出发求主成分有什么不同？ （1）由协方差阵出发
设随即向量X=（X1，X2，X3,……Xp）’ 的协方差矩阵为Σ，?1≥?2≥……≥?p为Σ的特征值，γ1，γ2，……γp为矩阵A各特征值对应的标准正交特征向量，则第i个主成分为Yi=γ1i*X1+γ2i*X2+……+γpi*Xp,i=1,2,……,p
此时VAR（Yi）=?i，ＣＯＶ（Ｙｉ，Ｙｊ）＝０，ｉ≠ｊ
我们把X1，X2，X3,……Xp的协方差矩阵Σ的非零特征根?1≥?2≥……≥?p＞0向量对应的标准化特征向量γ1，γ2，……γp分别作为系数向量，Y1=γ1’*X, Y2=γ2’*X,……， Yp=γp’*X分别称为随即向量X的第一主成分，第二主成分……第p主成分。Y的分量Y1，Y2，……，Yp依次是X的第一主成分、第二主成分……第p主成分的充分必要条件是：（1）Y=P’*X，即P为p阶正交阵，（2）Y的分量之间互不相关，即D（Y）=diag(?1,?2,……,?p),(3)Y的p个分量是按方差
多元统计分析课后练习答案
