好文档 - 专业文书写作范文服务资料分享网站

Broyden族校正公式的另一种推导方法

天下 分享 时间: 加入收藏 我要投稿 点赞

Broyden族校正公式的另一种推导方法

柳 力1,柳 毅2

【摘 要】摘要:给出了Broyden族校正公式的另一种推导方法,从另一角度表现了Broyden族各校正公式之间的关系,证明了Hoshino校正公式是Broyden凸族中唯一自对偶校正公式. 【期刊名称】北华大学学报(自然科学版) 【年(卷),期】2011(012)003 【总页数】3

【关键词】非线性规划;变尺度法;Broyden族;校正公式 【文献来源】

https://www.zhangqiaokeyan.com/academic-journal-cn_journal-beihua-university-

natural-science_thesis/0201247762274.html

1 Broyden族校正公式

考虑无约束优化问题 min f(x),x∈n, (1.1)

其中f:n→1是连续可微函数.在求解(1.1)的算法中,变尺度算法是公认的比较有效的一类算法,而其中的Broyden[1-2]族是这类算法中最有代表性的.当记xk为迭代点,sk=xk+1-xk,yk=gk+1-gk,gk=▽f(xk),则对H(目标函数的Hesse阵的逆近似)的Broyden族校正公式可以表为 (1.2) 其中:

Broyden族中包含了变尺度算法中最典型的几个校正公式:当θk=0时,由式

(1.2)得对H的DFP校正公式;当θk=1时,由式(1.2)得对H的BFGS校正公式;当时,由式(1.2)得对H的Hoshino校正公式,其中:

Broyden族校正公式(1.2)又可以表成DFP校正公式与BFGS校正公式的加权组合:

关于Broyden族校正公式的推导方法以及对B(目标函数的Hesse阵近似)的Broyden族校正公式等的详细论述可见文献[4-6].

2 校正公式的另一种推导方法

在下面的讨论中总假设曲率条件是满足的.设zk∈n,按如下形式构造校正公式: (2.1)

可以证明,只要适当选择zk,关于H的DFP、BFGS以及θk≥0时Broyden族的其他校正公式都可以由式(2.1)推出.为此首先给出下面引理:

引理2.1 对于选定的zk,当时,若Hk为对称正定矩阵,则由式(2.1)确定的Hk+1也是对称正定矩阵,并且满足拟牛顿条件Hk+1yk=sk.

证明 由已知条件,Hk+1显然是对阵矩阵.任取x∈n,当x≠0时,由式(2.1)有 (2.2)

若xTzk=0,则由x≠0及Hk正定,可推得式(2.2)右端第1项严格大于零,故此时xTHk+1x>0;若xTzk≠0,分两种情况:这时显然有xTHk+1x>0;则由已知条件可推得此时式(2.2)右端的第2项严格大于零,所以仍有xTHk+1x>0.所以,对任意x∈n,当x≠0时,都有xTHk+1x>0,故Hk+1是对称正定矩阵.而Hk+1满足拟牛顿条件是显然的. 利用上述引理可以证明以下结论:

定理2.1 若zk=sk,则式(2.1)是对H的BFGS公式;若zk=Hkyk,则式(2.1)

是对H的DFP公式.

定理2.2 若zk=αksk+βkHkyk,其中αk,βk∈,并且αk+βkτk≠0,则由式(2.1)定义的Hk+1对称正定,并且可以化成 (2.3) 其中:

校正公式(2.3)显然属于Broyden族.当αk,βk非负且不同时为零时,有θk∈[0,1],这时式(2.3)对应的是Broyden凸族.由定理2.2易得: 推论2.1 若则式(2.1)是对H的Hoshino校正公式. 完全类似地,可以给出对B的Broyden族校正公式.记 (2.4)

可以证明:当zk=yk时,式(2.4)为对B的DFP公式;当zk=Bksk时,式(2.4)为对B的BFGS公式;当其中,并且时,式(2.4)即可化为 (2.5)

其中:而当θk和φk满足 或 (2.6)

时,由式(2.3)定义的Hk+1和由式(2.5)定义的Bk+1在可逆的条件下是互逆矩阵.

由定理2.2可以看出:对H的Broyden凸族中各校正公式的区别都源于式(2.1)中zk=αksk+βkHkyk系数αk和βk的不同取值.但可以证明:

定理2.3 若式(2.1)中zk=αksk+βkHkyk,并且αk+βkτk≠0,则在精确线搜索条件下,xk处的搜索方向为

2toj44vb4n3blzb1bwa62p7v43zg7t00htw
领取福利

微信扫码领取福利

微信扫码分享