1 决策树模型与学习 1.1 决策树模型   定义 5.1 (决策树) 分类决策树模型是描述对实例进行分类的树形结构。决策树由 结点 (node...

1 k 近邻算法    近邻算法的思想是：给定一个训练数据集，对新的输入实例，在训练数据集中找到与该实例最邻近的 个实例，这 个实例的多数属...

1 感知机模型   定义 2.1 (感知机) 假设输入空间是 ，输出空间是 。输入 表示实例的特征向量，对应输出空间的的点；输出 表示实例的...

1 几点收获与思考 在监督学习中，训练数据与测试数据被看作是依联合概率密度分布 独立同分布产生的。 监督学习中，概率模型是生成模型，非概率模型...

4 模型评估与模型选择 4.1 训练误差与测试误差   假设学习到的模型是 ，训练误差是模型 关于训练数据集的平均损失：其中 是训练样本容量...

1 统计学习   实现统计学习方法的步骤：  （1）得到一个有限的训练数据集合，假设数据是独立同分布产生的；  （2）确定包含所有可能的模型的假...

1 简介   李航老师的《统计学习方法》是机器学习领域的经典入门教材之一。  本书分为监督学习和无监督学习两篇，全面系统地介绍了统计学习的主要方...