在此方向上新的迭代点为:
错误!未找到引用源。=错误!未找到引用源。=错误!未找到引用源。
=错误!未找到引用源。
把新的迭代点带入目标函数,目标函数将成为一个关于单变量错误!未找到引用源。的函数错误!未找到引用源。 错误!未找到引用源。
令 错误!未找到引用源。,可以求出当前搜索方向上的最优步长 错误!未找到引用源。 新的迭代点为错误!未找到引用源。
当前梯度向量的长度错误!未找到引用源。, 因此继续进行迭代。 第一迭代步完成。
2、试用牛顿法求f( X )=(x1-2)2+(x1-2x2)2的最优解,设初始点x(0)=[2,1]T。 解1:(注:题目出题不当,初始点已经是最优点,解2是修改题目后解法。) 牛顿法的搜索方向为错误!未找到引用源。,因此首先求出当前迭代点x(0) 的梯度向量、海色矩阵及其逆矩阵
错误!未找到引用源。
错误!未找到引用源。 不用搜索,当前点就是最优点。
解2:上述解法不是典型的牛顿方法,原因在于题目的初始点选择不当。以下修改求解题目的初始点,以体现牛顿方法的典型步骤。
以非最优点x(0)=[1,2]T作为初始点,重新采用牛顿法计算
牛顿法的搜索方向为错误!未找到引用源。,因此首先求出当前迭代点x(0) 的梯度向量、以及海色矩阵及其逆矩阵
梯度函数:
初始点梯度向量:
错误!未找到引用源。 海色矩阵:
海色矩阵逆矩阵:
当前步的搜索方向为:
错误!未找到引用源。=错误!未找到引用源。 新的迭代点位于当前的搜索方向上 :
错误!未找到引用源。=错误!未找到引用源。=错误!未找到引用源。 =错误!未找到引用源。=错误!未找到引用源。
把新的迭代点带入目标函数,目标函数将成为一个关于单变量错误!未找到引用源。的函数错误!未找到引用源。 错误!未找到引用源。
令 错误!未找到引用源。,可以求出当前搜索方向上的最优步长 错误!未找到引用源。 新的迭代点为错误!未找到引用源。
当前梯度向量的长度错误!未找到引用源。, 因此继续进行迭代。 第二迭代步:
因此不用继续计算,第一步迭代已经到达最优点。
这正是牛顿法的二次收敛性。对正定二次函数,牛顿法一步即可求出最优点。
3、设有函数 f(X)=x12+2x22-2x1x2-4x1,试利用极值条件求其极值点和极值。 解:首先利用极值必要条件
错误!未找到引用源。找出可能的极值点: 令
错误!未找到引用源。=错误!未找到引用源。
求得错误!未找到引用源。,是可能的极值点。
再利用充分条件错误!未找到引用源。正定(或负定)确认极值点。 错误!未找到引用源。
因此错误!未找到引用源。正定, 错误!未找到引用源。是极小点,极值为f(X*)=-8 4、求目标函数f( X )=x12+x1x2+2x22 +4x1+6x2+10的极值和极值点。 解法同上
5、试证明函数 f( X )=2x12+5x22 +x32+2x3x2+2x3x1-6x2+3在点[1,1,-2]T处具有极小值。 解: 必要条件:
将点[1,1,-2]T带入上式,可得
充分条件
错误!未找到引用源。=40错误!未找到引用源。
错误!未找到引用源。正定。
因此函数在点[1,1,-2]T处具有极小值
6、给定约束优化问题
min f(X)=(x1-3)2+(x2-2)2 s.t. g1(X)=-x12-x22+5≥0 g2(X)=-x1-2x2+4≥0 g3(X)= x1≥0 g4(X)=x2≥0
]TKuhn-Tucker条件成立。 验证在点X?[2,1]T起作用约束: 解:首先,找出在点X?[2,1g1(X) =0 g2(X) =0 g3(X) =2 g4(X) =1
因此起作用约束为g1(X)、g2(X)。
然后,计算目标函数、起作用约束函数的梯度,检查目标函数梯度是否可以表示为起作用约束函数梯度的非负线性组合。
错误!未找到引用源。=错误!未找到引用源。
错误!未找到引用源。=错误!未找到引用源。, 错误!未找到引用源。 求解线性组合系数 错误!未找到引用源。 错误!未找到引用源。
得到 错误!未找到引用源。 均大于0
]TKuhn-Tucker条件成立 因此在点X?[2,1
7、设非线性规划问题
2minf(X)?(x1?2)2?x2
s.t.g1(X)?x1?0g2(X)?x2?02g3(X)?x12?x2?1?0
用K-T条件验证X*??1,0?为其约束最优点。
T解法同上
8、已知目标函数为f(X)= x1+x2,受约束于: g1(X)=-x12+x2≥0 g2(X)=x1≥0 写出内点罚函数。 解:
内点罚函数的一般公式为
其中: r(1)>r(2) >r(3)… >r(k) … >0 是一个递减的正值数列 r(k)=Cr(k-1), 0<C<1 因此 罚函数为:
9、已知目标函数为f(X)=( x1-1)2+(x2+2)2 受约束于:g1(X)=-x2-x1-1≥0
g2(X)=2-x1-x2≥0 g3(X)=x1≥0 g4(X)=x2≥0