共轭函数
定义:扩展实值函数 的共轭函数 定义如下:
二次共轭函数
定义:扩展实值函数 的二次共轭函数 是其共轭函数 的共轭函数,定义如下:
Theorem (共轭定理)
设 为扩展实值函数,其共轭函数和二次共轭函数分别是 和 ,则如下结论成立:
- ;
- 若 是正常闭凸函数,则 ;
- 的共轭函数与其闭凸包的共轭函数等价,若 是正常函数,则 ;
- 当 是凸函数时,三个函数 , 和 中之一是正常函数,则其它两个也是正常函数。
极大极小问题
一个零和博弈的例子:
考虑如下只有两个玩家的零和博弈,其中玩家 A 有 个策略,玩家 B 有 个策略,若玩家 A 选择策略 的同时玩家 B 选择策略 ,则玩家 A 需支付 的报酬给玩家 B,玩家 A 的目标就是最小化他支付的报酬,玩家 B 的目标就是最大化他得到的报酬。不妨设他们都采用混合策略,即玩家 A 按概率分布 选择策略,玩家 B 按概率分布 选择策略,那么玩家 A 的期望支付报酬就是
其中矩阵 第 行第 列的元素是 。若每个玩家都考虑最坏的情况,即玩家 A 最小化 ,玩家 B 最大化 ,不难看出这两个问题就是上面的极大极小问题。
极大极小问题的定义
设 是闭凸函数,其中 和 分别是 和 的非空子集,考虑如下的极大极小问题:
强对偶关系
那我们很自然就想了解一个问题,在什么条件下:有如下的极大极小等式,我们也称为强对偶关系成立?并且两个极值都能取到?
弱对偶关系
我们知道,总是有下面的弱对偶关系成立:
如下弱对偶关系总是成立:
这是因为对于 有
对 再取上确界即可证明弱对偶关系。
因此我们只需要研究在什么条件下有如下关系成立即可:
鞍点
定义:若向量 和 使得
成立,则称 为 的鞍点 (saddle point)。
鞍点与极大极小值的关系
-
为 的鞍点当且仅当极大极小等式成立且 是:
-
是