求解有界约束优化问题的共轭梯度法研究

龙源期刊网 http://www.qikan.com.cn

求解有界约束优化问题的共轭梯度法研究

作者：刘彦汝

来源：《新校园·中旬刊》2011年第07期

一、绪论

我们先简单的介绍下本文将要研究的问题的背景和已有结果： 1．线性共轭梯度法

线性共轭梯度法是Hestenes和Stiefel在求解线性方程组Ax=b，x∈Rn。时分别独立提出的，他们合作的著名文章已经成为研究共轭梯度法的重要文献．容易看到，当A对称正定时，上面线性方程组的求解等价于求解下面的二次最优化问题 min■xTAx-bTx，x∈Rn。

因此，Hestenes和Stiefel的方法可以看做求二次函数极小值的共轭梯度法．线性共轭梯度法的一般格式如下；

算法1：（线性共轭梯度法）

步0 选取初始点x0∈Rn。令r0=Ax0-b，d0=-r0，置K：=0。 步1：如果K：=0||rk||＜ε，则停止。否则计算步长因子 αk=■

令下一个迭代点为；xk+1=xk+akdk，rk+1=Axk+1-b 步2：计算参数。

βk+1=■ｄｋ＋１＝－ｒｋ＋１＋βｋ＋１ｄｋ 置Ｋ：Ｋ+１；转步1。

线性共轭梯度法的一个显著特点是算法产生的方向ｄｋ，ｋ＝０，１，……关于A共轭，因而具有有限终止性。所谓的共轭性指的是当A对称正定时，如果ｒｎ中的非零向量ｄ１ｄ２……ｄｍ满足。

ｄＴｉＡｄｊ＝０（ｉ≠ｊ）