6-1 最优性条件
现考虑一般形式的非线性规划数学模型:
假设
、
和
均具有一阶连续偏导数,
,
是非线性规划的一
个可行解。现考虑某一不等式约束(1)
,此时
满足该不等式有两种可能:
不在由该约束形成的可行域边界上,因此该约束对
,此
的微小变动不起限制作用,从而称该约束为无效约束;(2)
时处在由该约束形成的可行域边界上,因此该约束对的微小变动会起某种限制作用,从而称该约束为有效约束。显而易见,所有等式约束都是有效约束。
是非线性规划的一个可行解,对于此点的某一方向
使任意 0均有
代表非线性规划的可行域。
若
是
,就称方向
是
,若存在实数 0
点的一个可行方向,此处
均有:
点的任一可行方向,则对该点所有有效约束
,
(6-18)
其中代表在点所有有效约束下标的集合,如图6-14所示。
图6-14
另一方面,由泰勒展开式
()
可知对所有有效约束,当就有
,
此外,对
时,上式依然成立。从而,只要方向可行方向。
非线性规划的某一可行点任意
0均有
在
将目标函数20)
足够小点的使
满足式(6-19),即可保证
是
足够小时,只要
,
(6-19)
点所有的无效约束来讲,由于约束函数的连续性,当
,对该点的任一方向来说,若存在实数0
,就称方向
是
满足
点的一个下降方向。
处作一阶泰勒展开,若方向
(6-
则必是点的一个下降方向。
如果方向既是点的一个可行方向又是一个下降方向,就称是点的一个可行下降方向。显然,如果某点存在可行下降方向,那么该点就不会是极小点;另一方面,如果某点是极小点,则该点不存在可行下降方向。 [定理3] 设微,而且
是非线性规划的一个局部极小点,目标函数
在在
(此处代表在不存在向量- ,
事实上,若在
(6-21) 点存在向量
满足式(6-21),则从
点出发沿方向
搜
点是一个局部极小点的假设相矛盾;所以这个
点处满足该条件的方向
与
同时满足
处可微,当处连续,当
时 时
点不存在可行下降方向,从而
在
处可
处有效约束的下标集合)则在
索可找到比点更好的点,这与定理是显然成立的。
式(6-21)的几何意义是十分明显的,即点目标函数负梯度方向的夹角为锐角,与锐角。
假设
点所有有效约束梯度方向的夹角也为
是非线性规划的极小点,该点可能处于可行域的内部,也可能处于可
必满足
;若为后者,情况就复杂多了,接下来我们就对这一复杂情况进行分
行域的边缘上。若为前者,该规划问题实质是一个无约束极值问题,析。
不失一般性,设是
点处的有效约束,
位于第一个约束所形成的可行域的边缘上,即第一个约束
。若
是极小点,则和
必与
在
同一直线上,且方向相反(这里假定条件的极小点,角度 表示非极小点
皆不为“0”);否则,在
点是满足上述
与,使
点处就一定存在可行下降方向,如图6-15所示。图6-15中的
处的可行下降方向的范围。既然
在同一直线上,且方向相反,则必存在一个实数
。
若情况下,
点处在两个有效约束边缘上,比如说
必处于
和
和
。在这种点必存在
的夹角之内;如若不然,
可行下降方向,这与图6-15
是极小点的相矛盾,如图6-16所示。
图6-16
由此可见,如果
是极小点,而且
表示成为
和
,使:
如此类推,可以得到:
(6-22)
为使所有无效约束也同上述有效约束一样包含在式(6-22)中,增加约束条件,当时;当时。如此即
可得到式(6-23)所示的库恩-塔克条件(Kuhn-Tucker,简称K-T条件,满足这一条件的点称为K-T点)。设的极小点,而且
是非线性规划
点各有效约束的梯度线性独立,则存在向量
点的有效约束的梯度
和
和
线性独立,则可以将
合;也就是说,存在实数
的非负线性组
,使下述条件成立:
,
(6-23)
,
由于等式约束总是有效约束,所以一般形式的非线性规划的库恩-塔克条件可表达为:设
是非线性规划
的极小点,而且
点的所有有效约束的梯度
和
和,
线性独立,则存在向量
使下述条件成立:
,
,
式(6-24)中的
和
(6-24)
称为广义拉格朗日乘子(Lagrange Multipliers)。
库恩-塔克条件是非线性规划领域中最重要的理论成果之一,是确定某点为极值点的必要条件;但一般来讲它并不是充分条件,因此满足这一条件的点并非一定就是极值点。对于凸规划,库恩-塔克条件是极值点存在的充分必要条件。