首先从监督学习来认识
1、监督学习的主要任务就是学习一个模型,应用这一模型,对给定的输入预测相应的输出。这一模型的一般形式为决策函数:Y=f(X) 或条件概率分布:P(Y|X)。
2、监督学习的方法又可以分为生成方法和判别方法,所学到的模型分布称为生成模型和判别模型。
3、生成方法由数据学习联合概率分布P(X,Y),然后求出条件概率分布P(Y|X)作为预测的模型。即生成模型:P(Y|X)=P(X,Y)/P(X)。
之所以称为生成方法,是因为模型表示了给定输入X产生输出Y的生成关系:P(Y|X)。
典型的生成模型有:朴素贝叶斯法、隐马尔科夫模型、高斯混合模型。
4、判别方法由数据直接学习决策函数f(X)或者条件概率分布P(Y|X)作为预测的模型,即判别模型。
典型的判别模型包括:KNN、感知机、决策树、线性回归、逻辑斯蒂回归模型、支持向量机、神经网络、boosting提升方法。
5、有时称判别模型求的是条件概率,生成模型求的是联合概率
生成模型和判别模型
©著作权归作者所有,转载或内容合作请联系作者
- 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
- 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
- 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
推荐阅读更多精彩内容
- 引入 监督学习的任务就是学习一个模型(或者得到一个目标函数),应用这一模型,对给定的输入预测相应的输出。这一模型的...
- 主要区别在于:要不要生成联合分布P(C_k,x)!!!其中,C_k是类别,x是数据。 判别模型 直接估计后验概率 ...