极大似然估计

一、梯度下降法 梯度下降法 考虑无约束优化问题： 其中， 为可微凸函数，且 。 记： 梯度下降法迭代格式为： 其中， 为搜索步长， 为初始迭代点。 梯度下降法解释 梯度下降法...

极大似然估计

共轭函数 定义：扩展实值函数 的共轭函数 定义如下： 二次共轭函数 定义：扩展实值函数 的二次共轭函数 是其共轭函数 的共轭函数，定义如下： Theorem (共轭...

极大似然估计

极点 定义：设 为非空凸集 中向量，若对 中任意不同于 的 ，以及任意标量 ，使得 均不成立，则称 为集合 的极点或顶点 (extreme point)。 注意...

极大似然估计

凸集的回收方向和回收锥 定义：设集合 为非空凸集，若向量 满足对于 及 有 成立，则称 是 的回收方向(recession direction)。 中回收方向全...

极大似然估计

一、论述题 简述超平面分离、严格超平面分离、以及正常超平面分离定义以及成立条件。 分离超平面定理设 和 是 中的非空凸集，若 和 不相交，则存在一个的超平面分离 ...

极大似然估计

凸函数 假设为一个凸集，如果对于任意的都有成立，我们就称为是实值凸函数(real-valued convex function)。 如果上面的小于等于号改成小于号，我们称是严...

极大似然估计

凸集性质以及凸包 凸集：假设集合，如果对于和，有成立，则称集合为凸集(convex set),或称是凸的。约定空集也是凸集。 如上图所示，我们可以看到，根据凸集的定义，上图中...

极大似然估计

本篇文章简单总结了数学中常见的三种形式的几何意义： 1.比式：形如形式的分式，我们可以把它视为和两点之间连线的斜率。 例题：求解函数的值域。 我们可以将其理解为两点和之间连线...