<h2>摘要</h2>
可视化数据挖掘方法在探索数据分析具有重大意义，尤其是在挖掘大数据方向上具有很高的潜力。由于数据空间特征是n维，所以可视化数据挖掘依赖降维技术。这是一个可以在三维空间内可视化每一个数据点的情况。本文旨在提出考虑以输入图像空间特征的几种降维方法进行比较研究，来通过确定最佳的可视化的方法演示类的分离。在开始时，要检查所设想的方法的性能，一个包含随机向量的人造数据描述为6，生成20纬度的带有间距和低方差的高斯分布。更进一步说，两个真实的图像数据通过数据可视化来被用于评估数据降纬算法的效率。该分析侧重于PCA，LDA和tSNE数据降纬技术。我们的测试是在图像上计算特征，包括颜色直方图和韦伯描述符。
<h2>1.简介</h2>
不断增长的可用性的影响档案创造了一个巨大的需求去开发和实现有关信息检索的自动系统。数据挖掘被定义为从观察到的数据提取模型或模式，一个更为复杂的处理是将低级数据抽象为高等级的知识，就是在一片数据库中去发现数据。因此，数据可视化的知识发现过程中起着关键的作用，由于它的能力来说明数据项之间的隐藏关系，并提供相应的固有的数据特征的显示。
有一个双重方法来可视化数据。第一个目的是确定用于多维数据可视化的方法，例如平行坐标技术[1]，肖像或密集像素显示[2]，而第二目标，尽量减少在维数据降纬过程中发生的信息丢失， e.g. PCA [3], LDA [4], t-SNE [5], KECA [6], NeRV [7] and IPCA [8].
这些技术背后的主要思想是把一个具有D纬数据X变为新的具有d(d<D)纬数据Y，尽可能按原来数据的几何形状进行保存。实际上，无论是数据的几何多样性还是数据X的固有纬度都是已知的。
本文旨在比较研究从图像特征空间开始几个降维的方法，从而描绘最佳图像内容的可视化方法。数据降维假设从高维数据转化为低维是有意义的表示。理想的情况下，简化的表示依旧能对应原生数据纬度，例如只需要最少的数据参数来观察这个数据的属性。
<h2>2.方法的提出</h2>
考虑用多维空间特征描诠释（分类）数据集，三维降纬方法是为了实现用一个三维数据来表示一个图像数据集的信息内容。在本文中使用的数据降维方法是PCA，LDA和T-SNE。
PCA是传统的数据降纬算法。它是基于协方差矩阵及其特征值的线性变换。该算法计算协方差矩阵及其特征值，保持
只有数（减少空间的数量维度）最大值。从形态变化中保留与特征向量相关的特征值。
T-SNE是一个高维数据集分成成对的相似性矩阵的方法。目的是保持高维数据的局部结构，在条件概率下转化数据点间的欧氏距离揭示全局结构（相似性），找到一个低维数据表示D纬空间和d纬空间之间最低不匹配。
与前面的方法不同，LDA也被称为也被称为Fisher判别分析，是一个寻找最佳分类操作的有监督分类。这是通过搜索设计类之间的最大化距离（协方差SB）和同一类项目之间的最小化距离（方差SW）实现。转化是通过从协方差逆矩阵得到的矩阵的n个最大特征值的特征向量对应方差矩阵相乘得到[5]。
一种合成的高维数据集的六个随机向量，20维度高斯分布的间距和低差产生来说明算法性能。在图1和图2中描绘了应用在数据集中的可视化的PCA，LDA和T-SNE算法。
另外，实际图像的数据库（21类，256×256像素90遥感图像补丁）被考虑。通过基于内容图像标注软件的装置
[9]，对于每个贴片颜色直方图（颜色）描述并用韦伯局部描述符（WLD）[10]进行计算。所得到的空间特征是192维的颜色直方图和432维的韦伯。最后通过PCA、LDA T-SNE算法将这个空间减少到三维。图3和图4显示三维空间表示。
根据在图4韦伯局部描述符的图像空间的LDA投影，我们可以看到从“停车场”过渡（橙色）到“海港”（绿色），然后进一步以“海滩”（蓝色）的区域，前两个在特定方向包含矩形物体最后两个处于同一水平面。t-SNE的可视化结果在韦伯局部描述空间特征的t-SNE的可视化结果揭示了相同的过渡，此外，可以从左上角的runway类和freewa类的不同分布看出它们遵循直角垂直。
在数据库中应用相同的处理阶段，由50*50像素的贴出和陆地卫星7的贴图组成ETM +由布加勒斯特光谱指数形成五号类。
在图5a）和c）中提供了用于空间降纬的PCA算法的得出特征空间（颜色和WLD）的结果。在图6 显示了进过LDA和t-SNE降纬之后的结果。从这些数字可以看到，LDA算法应用于彩色直方图很好的分离的“城市”和“植被”类。所有的预测结果表明，农村地区表现出转化到所有其他类，是由于“农村”贴图包含所有类的区域。
<h2>3.评论和结论</h2>
降维算法将D纬度的数据集X转化d纬度的数据集Y，同时保留尽可能多的几何数据。通常情况下，数据的几何形状和原始数据的固有纬度都不是已知的。因此，降维是一个不适定的问题，只能通过假设某些属性的数据来解决。分析的结果可以观察到的T-SNE算法导致同一组类更为紧凑，允许出现单一的一个简单的隔离的类，如果有必要，进一步有效的信息检索。这个结果是独立于数据库属性和图像类型。图1显示三种保存的人工数据库项目之间的空间关系的方法。在人工数据集，T-SNE似乎是最合适的降维方法当LDA是最好在应用于韦伯局部描述符特征空间的数据集的方法。PCA在光谱指数的Landsat 7 ETM+图像的颜色直方图特征空间描述的案例提供了最好的结果。
总之，PCA，LDA和T-SNE算法可以用于多维数据的可视化。其性能是直接依赖于是否正确的选择的合适的数据库的描述。这种观察也适用于图6，其中韦伯局部描述的数据降纬空间特征导致更好的类的分离，相较于那些不包含贴图取向的颜色直方图的空间特征。类的数目也影响结果的质量。第二和第三实验的结果的比较表明，类的数量会影响算法的性能。