流形学习(浙大)

LE算法

?

?

第一步：构建近邻图

第二步：计算每条边的权重(不相连的边权重为0)

??

热核权重：??????=exp0-1 权重：??????=1

???????????22 ?

第三步：求解特征向量方程，????=????，将点????映射到(??1(??),…,????(??))

LE: 数字上的聚类结果

?

LE

?

PCA

Locality Preserving Projections (LPP)

???

跟LE一样的准则，但是限制函数是外围欧氏空间的线

????

性函数：????=????,??∈??

??

最终转化成求解如下特征向量问题：????????=????????????，其中??=(??1 …????)是数据矩阵。

LPP可以将位于平行仿射凸包的流形分开(Binbin Lin, 2010)。

LPP vs. PCA

?

PCA考虑的是全局统计信息，LPP是第一个考虑流形结构的线性方法。 outlier PCA LPP

蓝色的线段表示投影的两个基向量。长的线段表示第一个基向量, 短的线段表示第二个基向量。 人脸数据流形

姿势 (右 >>> 左) 表情 (难过 >>> 开心)