第五章 聚类分析
判别分析和聚类分析有何区别
答:即根据一定的判别准则,判定一个样本归属于哪一类。具体而言,设有n个样本,对每个样本测得p项指标(变量)的数据,已知每个样本属于k个类别(或总体)中的某一类,通过找出一个最优的划分,使得不同类别的样本尽可能地区别开,并判别该样本属于哪个总体。聚类分析是分析如何对样品(或变量)进行量化分类的问题。在聚类之前,我们并不知道总体,而是通过一次次的聚类,使相近的样品(或变量)聚合形成总体。通俗来讲,判别分析是在已知有多少类及是什么类的情况下进行分类,而聚类分析是在不知道类的情况下进行分类。 试述系统聚类的基本思想。
答:系统聚类的基本思想是:距离相近的样品(或变量)先聚成类,距离相远的后聚成类,过程一直进行下去,每个样品(或变量)总能聚到合适的类中。 对样品和变量进行聚类分析时, 所构造的统计量分别是什么简要说明为什么这样构造
答:对样品进行聚类分析时,用距离来测定样品之间的相似程度。因为我们把n个样本看作p维空间的n个点。点之间的距离即可代表样品间的相似度。常用的距离为
(一)闵可夫斯基距离:dij(q)?(q取不同值,分为
(1)绝对距离(q?1) (2)欧氏距离(q?2)
(3)切比雪夫距离(q??) (二)马氏距离
?Xk?1pik?Xjk)
q1/q(三)兰氏距离
对变量的相似性,我们更多地要了解变量的变化趋势或变化方向,因此用相关性进行衡量。
将变量看作p维空间的向量,一般用 (一)夹角余弦 (二)相关系数
在进行系统聚类时,不同类间距离计算方法有何区别选择距离公式应遵循哪些原则
答: 设dij表示样品Xi与Xj之间距离,用Dij表示类Gi与Gj之间的距离。 (1). 最短距离法 (2)最长距离法
(3)中间距离法
121222 Dkr ?Dkp?Dkq??Dpq22其中(4)重心法 (5)类平均法
(6)可变类平均法
np2nq222 Dkr ?(1??)(Dkp?Dkq)??Dpq其中是可变的且 <1 nrnr(7)可变法
2Dkr?1??222(Dkp?Dkq)??Dpq 其中是可变的且 <1 2(8)离差平方和法
通常选择距离公式应注意遵循以下的基本原则:
(1)要考虑所选择的距离公式在实际应用中有明确的意义。如欧氏距离就有非常明确的空间距离概念。马氏距离有消除量纲影响的作用。
(2)要综合考虑对样本观测数据的预处理和将要采用的聚类分析方法。如在进行聚类分析之前已经对变量作了标准化处理,则通常就可采用欧氏距离。 (3)要考虑研究对象的特点和计算量的大小。样品间距离公式的选择是一个比较复杂且带有一定主观性的问题,我们应根据研究对象的特点不同做出具体分折。实际中,聚类分析前不妨试探性地多选择几个距离公式分别进行聚类,然后对聚类分析的结果进行对比分析,以确定最合适的距离测度方法。 试述K均值法与系统聚类法的异同。
答:相同:K—均值法和系统聚类法一样,都是以距离的远近亲疏为标准进行聚类的。
不同:系统聚类对不同的类数产生一系列的聚类结果,而K—均值法只能产生指定类数的聚类结果。
具体类数的确定,离不开实践经验的积累;有时也可以借助系统聚类法以一部分样品为对象进行聚类,其结果作为K—均值法确定类数的参考。 试述K均值法与系统聚类有何区别试述有序聚类法的基本思想。
答:K均值法的基本思想是将每一个样品分配给最近中心(均值)的类中。系统聚类对不同的类数产生一系列的聚类结果,而K—均值法只能产生指定类数的聚类结果。具体类数的确定,有时也可以借助系统聚类法以一部分样品为对象进行聚类,其结果作为K均值法确定类数的参考。
有序聚类就是解决样品的次序不能变动时的聚类分析问题。如果用X(1),X(2),?,X(n)表示n个有序的样品,则每一类必须是这样的形式,即X(i),X(i?1),?,X(j),其中
1?i?n,且j?n,简记为Gi?{i,i?1,?,j}。在同一类中的样品是次序相邻的。一般
的步骤是(1)计算直径{D(i,j)}。(2)计算最小分类损失函数{L[p(l,k)]}。(3)确定分类个数k。(4)最优分类。
检测某类产品的重量, 抽了六个样品, 每个样品只测了一个指标,分别为1,2,3,6,9,11.试用最短距离法,重心法进行聚类分析。 (1)用最短距离法进行聚类分析。 采用绝对值距离,计算样品间距离阵 0 1 0 2 1 0
5 4 3 0 8 7 6 3 0 10 9 8 5 2 0
由上表易知 为
中最小元素是 于是将,,聚为一类,记
计算距离阵 0
3 0 6 3 0 8 5 2 0 中最小元素是
=2 于是将
,
聚为一类,记为
计算样本距离阵 0 3 0
6 3 0
中最小元素是因此,
(2)用重心法进行聚类分析 计算样品间平方距离阵 0 1 0 4 1 0
25 16 9 0
于是将,聚为一类,记为
64 49 36 9 0 100 81 64 25 4 0
易知 记为
中最小元素是 于是将,,聚为一类,
计算距离阵 0
16 0