学习数据挖掘的最佳路径是什么?
一、知识清单
1.数据挖掘的基本流程
1.1 商业理解:数据挖掘不是我们的目的,我们的目的是更好地帮助业务,我们要从商业的角度理解项目需求。
1.2 数据理解:尝试收集部分数据,然后对数据进行探索,包括数据描述、数据质量验证等。
1.3 数据准备:开始收集数据,并对数据进行清洗、数据集成等操作。
1.4 模型建立:选择和应用各种数据挖掘模型,并进行优化,以便得到更好的分类结果。
1.5 模型评估:对模型进行评价,并检查构建模型的每个步骤,确认模型是否实现了预定的商业目标。
1.6 上线发布:获得的知识需要转化成用户可以使用的方式。
2.十大算法
2.1 分类算法:
2.1.1 C4.5:算法是得票最高的算法,可以说是十大算法之首。。C4.5 是决策树的算法,它创造性地
在决策树构造过程中就进进行了剪枝,并且可以处理连续的属性,也能对不完整的数据进行处处理。
2.1.2 朴素贝叶斯(Naive Bayes):朴素贝叶斯模型是基于概率论的原理,它的思想是这样的:
对于给出的未知物体想要进行分类,就需要求解在这个未知物体出现的条件下各个类别出现的概率,哪个
最大,就认为这个未知物体属于哪个分类。
2.1.3 SVM:SVM 的中文叫支持向量机,英文是 Support Vector Machine,简称 SVM。SVM
在训练中建立了一个超平面的分类模型。
2.1.4 KNN:KNN 也叫 K 最近邻算法,英文是 K-Nearest Neighbor。所谓 K 近邻,就是每
个样本都可以用它最接近的 K 个邻居来代表。如果一个样本,它的 K 个最接近的邻居都属于分类 A,
那么这个样本也属于分类 A。
2.1.5 Adaboost:Adaboost 是个构建分类器的提升算法。它可以让我们多个弱的分类器组成一个
强的分类器,所以 Adaboost 也是一个常用的分类算法。
2.1.6 CART:CART 代表分类和回归树,英文是 Classification and Regression Trees。
像英文一样,它构建了两棵树:一棵是分类树,另一个是回归树。和 C4.5一样,它是一个决策树学习方法。
2.2 聚类算法:
2.2.1 K-Means:K-Means 算法是一个聚类算法。你可以这么理解,最终我想把物体划分成 K 类。
假设每个类别里面,都有个“中心点”,即意见领袖,它是这个类别的核心。现在我有一个新点要归类,
这时候就只要计算这个新点与 K 个中心点的距离,距离哪个中心点近,就变成了哪个类别。
2.2.2 EM:EM 算法也叫最大期望算法,是求参数的最大似然估计的一种方法。原理是这样的:
假设我们想要评估参数 A 和参数 B,在开始状下二者都是未知的,并且知道了 A 的信息就可以得到
B 的信息,反过来知道了 B 也就得到了 A。可以考虑首先赋予 A某个初值,以此得到 B 的估值,
然后从 B 的估值出发,重新估计 A 的取值,这个过程一直持续到收敛为止。
2.3 关联分析:
2.3.1 Apriori:Apriori 是一种挖掘关联规则(associationrules)的算法,它通过挖掘频繁项集
(frequentitem sets)来揭示物品之间的关联关系,被广泛应用到商业挖掘和网络安全等领域中。频繁
项集是指经常出现在一起的物品的的集合,关联规则暗示着两种物品之间可能存在很强的关系。
2.4 连接分析:
2.4.1 PageRank:PageRank 起源于论文影响力的计算方式,如果一篇文论被引入的次数越多,
就代表这篇论文的影响力越强。同样 PageRank 被 Google 创造性地应用到了网页权重的计算中:
当一个页面链出的页面越多,说明这个页面的“参考文献”越多,当这个页面被链入的频率越高,
说明这个页面被引用的次数越高。基于这个原理,我们可以得到网站的权重划分。
3.数学原理
3.1 概率论与数理统计:条件概率、独立性的概念,以及随机变量、多维随机变量的概念。
3.2 线性代数:向量和矩阵是线性代数中的重要知识点,它被广泛应用到数据挖掘中。
3.3 图论:社交网络的兴起,让图论的应用也越来越广。
3.4 最优化方法:最优化方法相当于机器学习中自我学习的过程,当机器知道了目标,训练后与结果存在偏差
就需要迭代调整,那么最优化就是这个调整的过程。