共轭函数

定义：扩展实值函数 的共轭函数 定义如下：

二次共轭函数

定义：扩展实值函数 的二次共轭函数 是其共轭函数 的共轭函数，定义如下：

Theorem (共轭定理)

设 为扩展实值函数，其共轭函数和二次共轭函数分别是 和 ，则如下结论成立：

1. ;
2. 若 是正常闭凸函数，则 ;
3. 的共轭函数与其闭凸包的共轭函数等价，若 是正常函数，则 ;
4. 当 是凸函数时，三个函数 ， 和 中之一是正常函数，则其它两个也是正常函数。

极大极小问题

一个零和博弈的例子：

考虑如下只有两个玩家的零和博弈，其中玩家 A 有 个策略，玩家 B 有 个策略，若玩家 A 选择策略 的同时玩家 B 选择策略 ，则玩家 A 需支付 的报酬给玩家 B，玩家 A 的目标就是最小化他支付的报酬，玩家 B 的目标就是最大化他得到的报酬。不妨设他们都采用混合策略，即玩家 A 按概率分布 选择策略，玩家 B 按概率分布 选择策略，那么玩家 A 的期望支付报酬就是

其中矩阵 第 行第 列的元素是 。若每个玩家都考虑最坏的情况，即玩家 A 最小化 ，玩家 B 最大化 ，不难看出这两个问题就是上面的极大极小问题。

极大极小问题的定义

设 是闭凸函数，其中 和 分别是 和 的非空子集，考虑如下的极大极小问题：

极大极小问题

强对偶关系

那我们很自然就想了解一个问题，在什么条件下：有如下的极大极小等式，我们也称为强对偶关系成立？并且两个极值都能取到？

弱对偶关系

我们知道，总是有下面的弱对偶关系成立：
如下弱对偶关系总是成立：

这是因为对于 有

对 再取上确界即可证明弱对偶关系。
因此我们只需要研究在什么条件下有如下关系成立即可：

鞍点

定义：若向量 和 使得

成立，则称 为 的鞍点 (saddle point)。

鞍点示意图

鞍点与极大极小值的关系

1. 为 的鞍点当且仅当极大极小等式成立且 是：
   
2. 是