其实就是在寻找解析解:
最后变为矩阵问题(求θ最优解):
优缺点:
梯度下降法 | 正规方程法 |
---|---|
需要选择α | 不需要需要选择α |
需要很多迭代 | 不需要迭代 |
当n很大的时候,依然工作良好 | 需要计算 |
当
不可逆时,有两种情况:
解决方法:
针对1:因为线性相关的向量(有一个是多余的),只需删除一个就好;
针对2:因为太多特征导致,所以需要删除一些特征,或者使用正则化的方法(regularization)
其实就是在寻找解析解:
最后变为矩阵问题(求θ最优解):
优缺点:
梯度下降法 | 正规方程法 |
---|---|
需要选择α | 不需要需要选择α |
需要很多迭代 | 不需要迭代 |
当n很大的时候,依然工作良好 | 需要计算 |
当
不可逆时,有两种情况:
解决方法:
针对1:因为线性相关的向量(有一个是多余的),只需删除一个就好;
针对2:因为太多特征导致,所以需要删除一些特征,或者使用正则化的方法(regularization)