梯度下降Debugging:x轴为迭代次数,y轴是J(θ)。 如果J(θ)递增,那么很可能是α太大了。
自动收敛检测: 声明如果一次迭代减少的值小于某个阈值ε,那么确认函数已经足够收敛。当然,实际上很难确定ε值。
如果 α 足够小,那么每次迭代都应该是递减的。
总结:
如果 α 太小: 收敛速度缓慢。
如果 α 太大: 每次迭代递增,从而不能收敛。
梯度下降Debugging:x轴为迭代次数,y轴是J(θ)。 如果J(θ)递增,那么很可能是α太大了。
自动收敛检测: 声明如果一次迭代减少的值小于某个阈值ε,那么确认函数已经足够收敛。当然,实际上很难确定ε值。