一、梯度下降法 梯度下降法 考虑无约束优化问题: 其中, 为可微凸函数,且 。 记: 梯度下降法迭代格式为: 其中, 为搜索步长, 为初始迭代点...
MCMC几何问题框架可推导许多凸优化理论。 定义:设 为 中非空子集: 极小公共点问题 (minimal common problem): ...
共轭函数 定义:扩展实值函数 的共轭函数 定义如下: 二次共轭函数 定义:扩展实值函数 的二次共轭函数 是其共轭函数 的共轭函数,定义...
极点 定义:设 为非空凸集 中向量,若对 中任意不同于 的 ,以及任意标量 ,使得 均不成立,则称 为集合 的极点或顶点 (ext...
凸集的回收方向和回收锥 定义:设集合 为非空凸集,若向量 满足对于 及 有 成立,则称 是 的回收方向(recession dir...
一、论述题 简述超平面分离、严格超平面分离、以及正常超平面分离定义以及成立条件。 分离超平面定理设 和 是 中的非空凸集,若 和 不相...
凸函数 假设为一个凸集,如果对于任意的都有成立,我们就称为是实值凸函数(real-valued convex function)。 如果上面的小...
凸集性质以及凸包 凸集:假设集合,如果对于和,有成立,则称集合为凸集(convex set),或称是凸的。约定空集也是凸集。 如上图所示,我们可...
本文介绍幂平均函数以及由他得出的幂均值不等式。 引理:Jensen不等式【琴生不等式】 假设是区间上的凸函数,我们有如下结论: 反之,如果是一个...