机器学习是什么?
-机器学习是对能通过经验自动改进的计算机算法的研究。
-机器学习是用数据或以往的经验,以此优化计算机程序的性能标准。
机器学习例子
1.线性回归
2.逻辑回归
3.图片分类
4.语音助手
为什么要用机器学习?
-有些棘手问题只能用机器学习来解决
-获取数据比编写规则更加容易
-GPU等计算能力显著提升
机器学习如何运作
-神经网络(重点)
-决策树 支持向量机 贝叶斯分类器 强化学习......
神经网络简介
-在本课中,指的是人工神经网络
-人工神经网络是一种运算模型(就是输入输出的映射),由大量的节点(或神经元)之间相互连接构成
举例:
神经网络总结
-每个神经元里面存储着若干权重(weight),偏置(bias) 和一个激活函数(activation )
-输入乘上权重加上偏置,经过激活函数得到输出
-激活函数用于添加非线性的变换
-神经网络通常包括一个输入层 若干个隐藏层 一个输出层
-输入层通常不用于计算神经网络的层级
神经网络的训练
-给大量输入和输出,算出神经网络里所有神经元的权重,偏置,然后给定新的输入,可以算出新的输出。
-在机器学习里输入输出被称为特征和标签,大量输入输出被称为训练集
-给1000个相亲对象的数据(特征),和对应的满意程度(标签),训练完后,给一份新的相亲对象的数据,就可以判定满意程度了
如何训练神经网络
-初始化:随机生成一些权重和偏置
-计算损失:给定特征,计算出标签,得到它与真实标签差得多远
-优化:微调权重和偏置,是损失变小
前向传播与方向传播
-前向传播:将训练数据的特征送入网络,得到标签
-反向传播:计算损失并优化(链式,从最后一层开始调,就是这个方向)
-使用损失函数(均方误差,对数损失,交叉钐)
-使用优化器(随机梯度下降sgd) Adam