数据分析实战02

学习数据挖掘的最佳路径是什么?

一、知识清单

1.数据挖掘的基本流程

1.1 商业理解:数据挖掘不是我们的目的,我们的目的是更好地帮助业务,我们要从商业的角度理解项目需求。

1.2 数据理解:尝试收集部分数据,然后对数据进行探索,包括数据描述、数据质量验证等。

1.3 数据准备:开始收集数据,并对数据进行清洗、数据集成等操作。

1.4 模型建立:选择和应用各种数据挖掘模型,并进行优化,以便得到更好的分类结果。

1.5 模型评估:对模型进行评价,并检查构建模型的每个步骤,确认模型是否实现了预定的商业目标。

1.6 上线发布:获得的知识需要转化成用户可以使用的方式。

2.十大算法

2.1 分类算法:

2.1.1 C4.5:算法是得票最高的算法,可以说是十大算法之首。。C4.5 是决策树的算法,它创造性地

在决策树构造过程中就进进行了剪枝,并且可以处理连续的属性,也能对不完整的数据进行处处理。

2.1.2 朴素贝叶斯(Naive Bayes):朴素贝叶斯模型是基于概率论的原理,它的思想是这样的:

对于给出的未知物体想要进行分类,就需要求解在这个未知物体出现的条件下各个类别出现的概率,哪个

最大,就认为这个未知物体属于哪个分类。

2.1.3 SVM:SVM 的中文叫支持向量机,英文是 Support Vector Machine,简称 SVM。SVM

在训练中建立了一个超平面的分类模型。

2.1.4 KNN:KNN 也叫 K 最近邻算法,英文是 K-Nearest Neighbor。所谓 K 近邻,就是每

个样本都可以用它最接近的 K 个邻居来代表。如果一个样本,它的 K 个最接近的邻居都属于分类 A,

那么这个样本也属于分类 A。

2.1.5 Adaboost:Adaboost 是个构建分类器的提升算法。它可以让我们多个弱的分类器组成一个

强的分类器,所以 Adaboost 也是一个常用的分类算法。

2.1.6 CART:CART 代表分类和回归树,英文是 Classification and Regression Trees。

像英文一样,它构建了两棵树:一棵是分类树,另一个是回归树。和 C4.5一样,它是一个决策树学习方法。

2.2 聚类算法:

2.2.1 K-Means:K-Means 算法是一个聚类算法。你可以这么理解,最终我想把物体划分成 K 类。

假设每个类别里面,都有个“中心点”,即意见领袖,它是这个类别的核心。现在我有一个新点要归类,

这时候就只要计算这个新点与 K 个中心点的距离,距离哪个中心点近,就变成了哪个类别。

2.2.2 EM:EM 算法也叫最大期望算法,是求参数的最大似然估计的一种方法。原理是这样的:

假设我们想要评估参数 A 和参数 B,在开始状下二者都是未知的,并且知道了 A 的信息就可以得到

B 的信息,反过来知道了 B 也就得到了 A。可以考虑首先赋予 A某个初值,以此得到 B 的估值,

然后从 B 的估值出发,重新估计 A 的取值,这个过程一直持续到收敛为止。

2.3 关联分析:

2.3.1 Apriori:Apriori 是一种挖掘关联规则(associationrules)的算法,它通过挖掘频繁项集

(frequentitem sets)来揭示物品之间的关联关系,被广泛应用到商业挖掘和网络安全等领域中。频繁

项集是指经常出现在一起的物品的的集合,关联规则暗示着两种物品之间可能存在很强的关系。

2.4 连接分析:

2.4.1 PageRank:PageRank 起源于论文影响力的计算方式,如果一篇文论被引入的次数越多,

就代表这篇论文的影响力越强。同样 PageRank 被 Google 创造性地应用到了网页权重的计算中:

当一个页面链出的页面越多,说明这个页面的“参考文献”越多,当这个页面被链入的频率越高,

说明这个页面被引用的次数越高。基于这个原理,我们可以得到网站的权重划分。

3.数学原理

3.1 概率论与数理统计:条件概率、独立性的概念,以及随机变量、多维随机变量的概念。

3.2 线性代数:向量和矩阵是线性代数中的重要知识点,它被广泛应用到数据挖掘中。

3.3 图论:社交网络的兴起,让图论的应用也越来越广。

3.4 最优化方法:最优化方法相当于机器学习中自我学习的过程,当机器知道了目标,训练后与结果存在偏差

就需要迭代调整,那么最优化就是这个调整的过程。

©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 217,277评论 6 503
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 92,689评论 3 393
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 163,624评论 0 353
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 58,356评论 1 293
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 67,402评论 6 392
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 51,292评论 1 301
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 40,135评论 3 418
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 38,992评论 0 275
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 45,429评论 1 314
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 37,636评论 3 334
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 39,785评论 1 348
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 35,492评论 5 345
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 41,092评论 3 328
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 31,723评论 0 22
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 32,858评论 1 269
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 47,891评论 2 370
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 44,713评论 2 354

推荐阅读更多精彩内容