章节2
课时6 模型描述
学习种类:1.监督学习 又分为回归问题(连续型)和分类问题(离散型)
2.无监督学习
课时7 代价函数
公式源地址
单变量线性回归函数 hθ(x) = θ0 + θ1x
为了使线性回归函数对数据有较好的预测性,即y(i)到hθ(x(i)) 的距离都很小。
故构造代价函数,也称平均误差公式:
上式中m为训练集样本数量,用平方代替绝对值,再将所有样本点求和再求平均
最佳θ0,θ1满足下式:
课时8 代价函数(1)
1.我们希望找到一条与数据拟合的直线,所以我们构造了下面这个假设函数,包括theta0和theta1,随着参数的选择不同,我们会得到不同的直线,和数据相符额直线如下图绿色直线,代价函数是J(theta0,theta1),我们的目标是最小化代价函数
2.为了更好的使得代价函数J可视化,我们使用一个简化的假设函数,如下图中所示,假设函数只包括一个参数theta1,代价函数和之前的类似,这里我们的目标就是尽量优化J的值。
3.假设函数和代价函数是需要我们仔细了解的关键函数
(1)假设函数是在给定theta1的情况下,是一个关于x的函数
(2)代价函数J是关于theta1的函数,theta1控制着直线的斜率
(3)假设threta1等于1,我们要弄清楚的是当theta1=1的时候,J(theta1)的值,接下来计算代价函数的第一个值
这里我们知道J(1)=0
代价函数是三段直线的高度和。然后代价函数的计算如下:
(4)当theta1=0的时候,可以计算绘制下图
(5)当theta1=-0.5的时候,代价函数的值很大,约为5.25
(6)经过一些列的计算,可以得到下面的值
(7)对于每一个theta1的值,都对应着一个假设函数,对应着不同的直线,同时也可以找到不同的J(theta1)的值
所以我们学习算法的目的是选择不同的theta1的值,求出最小的J(theta)的值,这就是线性回归的目标函数
美妙!