本节我们将介绍共轭梯度法,只是简单的介绍一下,其收敛性的证明和共轭梯度法类似。
1、简介
LS 共轭梯度法是由 Liu 和 Storey 提出在 1991 年提出的一种非线性共轭梯度法,这种方法具有如下形式:
其中参数由以下公式计算:
我们现在给出方向的一种特殊性质,即存在,使得
我们把具有的性质,也称为具有充分下降性。
2、收敛性分析
定理:设目标函数水平集有界,且导数连续,考虑方法,其中参数,步长因子满足和
则有
注:证明过程完全类似于前面共轭梯度法,在此就省略不写。
3、结束语
这或许是写的最少的一篇文章吧。当然写的内容也没有人看,但是我会看,会思考,这就足够了呀。参考文献如下
[1] Liu Y, Storey C. Efficient generalized conjugate gradient algorithms, I. Theory[J]. J Optim Theorey Appl, 1991, 69(1): 129-137.