流形学习(manifold learning)、图正则

流形学习(manifold learning)/图正则的技术能发现数据空间的内在几何和区别结构,这对分类和聚类任务有重要作用。

这些方法都有一个locally invariant assumption,即相近的数据样本可能有类似的嵌入(embeddings)。

locally invariant的idea扩展到表示学习中,可以表现为sample assumption(被看作局部不变假设),高维数据采样于低维的嵌入流形中,故高维空间中相似的两个点,在低维空间中也相似。

以非负矩阵分解(NMF)这一表示技术为例,图1中NMF把一个数据矩阵X分解成基矩阵A和系数矩阵Y,Y是X的低维表示。把每个样本的低维表示s作为顶点,然后学习他们的关系为边w,可以构造一个图,如图2。

图1 NMF基本模型


图2 图正则项
©著作权归作者所有,转载或内容合作请联系作者
平台声明:文章内容(如有图片或视频亦包括在内)由作者上传并发布,文章内容仅代表作者本人观点,简书系信息发布平台,仅提供信息存储服务。

推荐阅读更多精彩内容