本篇我们讨论一下一般的优化问题：这里我们对不做任何要求。并记： 的定义域为和满足约束的的交集。 最优值： 拉格朗日对偶问题 对偶问题的描述 为什...

机器学习，很大程度上是在解决一个优化问题，于是不可避免的，我们需要一些优化方面的知识。在众多优化问题中，我们比较关注的是凸优化问题，是因为其具有...

上一篇中我们已经推导得到了简单的线性回归的模型，这一篇中我们继续补充和完善该模型。 （4） 线性基函数模型 模型形式：矩阵形式：其中，，.在这个...

线性模型是最简单且基础的机器学习模型，其重要性不言而喻。我们来一步一步解析线性模型。其中，线性回归模型是回归任务中的基础模型，这里介绍一下多元线...