极大似然估计

一、梯度下降法 梯度下降法 考虑无约束优化问题： 其中， 为可微凸函数，且 。 记： 梯度下降法迭代格式为： 其中， 为搜索步长， 为初始迭代点。 梯度下降法解释 梯度下降法...

极大似然估计

MCMC几何问题框架可推导许多凸优化理论。 定义：设 为 中非空子集： 极小公共点问题 (minimal common problem): 找出 与 轴的公共点中第 ...

极大似然估计

共轭函数 定义：扩展实值函数 的共轭函数 定义如下： 二次共轭函数 定义：扩展实值函数 的二次共轭函数 是其共轭函数 的共轭函数，定义如下： Theorem (共轭...

极大似然估计

极点 定义：设 为非空凸集 中向量，若对 中任意不同于 的 ，以及任意标量 ，使得 均不成立，则称 为集合 的极点或顶点 (extreme point)。 注意...

极大似然估计

凸集的回收方向和回收锥 定义：设集合 为非空凸集，若向量 满足对于 及 有 成立，则称 是 的回收方向(recession direction)。 中回收方向全...

极大似然估计

一、论述题 简述超平面分离、严格超平面分离、以及正常超平面分离定义以及成立条件。 分离超平面定理设 和 是 中的非空凸集，若 和 不相交，则存在一个的超平面分离 ...

极大似然估计

凸函数 假设为一个凸集，如果对于任意的都有成立，我们就称为是实值凸函数(real-valued convex function)。 如果上面的小于等于号改成小于号，我们称是严...

极大似然估计

凸集性质以及凸包 凸集：假设集合，如果对于和，有成立，则称集合为凸集(convex set),或称是凸的。约定空集也是凸集。 如上图所示，我们可以看到，根据凸集的定义，上图中...

极大似然估计

本篇文章简单总结了数学中常见的三种形式的几何意义： 1.比式：形如形式的分式，我们可以把它视为和两点之间连线的斜率。 例题：求解函数的值域。 我们可以将其理解为两点和之间连线...

极大似然估计

最近在win11上安装了ubuntu子系统，开始学习Linux。本笔记用来整理自己学习linux的历程。 主要文件名称 首先我们用cd /把我们的目录切换到根目录，随后使用l...

极大似然估计

本人在使用惠普电脑时，不知道是不是因为windows11自动更新系统的原因，导致电脑会莫名其妙重启，在经过研究后发现，是连接蓝牙耳机后才会出现这样的状况。解决方案如下： 1....

极大似然估计

定理一：平面自治系统的任一闭轨内部至少包含一个奇点。 Bendixson环域定理是动力系统中关于平面自治微分方程的一个重要定理，特别在分析平面系统是否存在闭轨道（如极限环）方...

极大似然估计

奇点类型 本篇仅讨论平面自治系统的奇点类型，对于线性化系统求解其特征值。特征值的实部和虚部决定了奇点的类型： 实特征值如果所有特征值均为负实数，则该奇点是稳定结点；如果所有特...