.
3-4.使用二次插值法求f(x)=sin(x)在区间[2,6]的极小点,写出计算步骤和迭代公式,给定初始点x1=2,x2=4,x3=6, ε=10-4。
解: 1 2 3 4 x1 2 4 4.55457 4.55457 x2 4 4.55457 4.73656 4.72125 x3 6 6 6 4.73656 y1 0.909297 -0.756802 -0.987572 -0.987572 y2 -0.756802 -0.987572 -0.999708 -0.999961 y3 -0.279415 -0.279415 -0.279415 -0.999708 xp 4.55457 4.73656 4.72125 4.71236 yp -0.987572 -0.999708 -0.999961 -1 迭代次数K= 4 ,极小点为 4.71236 ,最小值为 -1
c1?y3?y1y?yc?c,c2?21,c3?21 x3?x1x2?x1x2?x31cxp?(x1?x3?1)
2c3收敛的条件:
y2?ypy2??
..
.
4-1.简述无约束优化方法中梯度法、共轭梯度法、鲍威尔法的主要区别。
答:梯度法是以负梯度方向作为搜索方向,使函数值下降最快,相邻两个迭代点上的函数相互垂直即是相邻两个搜索方向相互垂直。这就是说在梯度法中,迭代点向函数极小点靠近的过程,走的是曲折的路线。这一次的搜索方向与前一次的搜索过程互相垂直,形成“之”字形的锯齿现象。从直观上可以看到,在远离极小点的位置,每次迭代可使函数值有较多的下降。可是在接近极小点的位置,由于锯齿现象使每次迭代行进的距离缩短,因而收敛速度减慢。这种情况似乎与“最速下降”的名称矛盾,其实不然,这是因为梯度是函数的局部性质。从局部上看,在一点附近函数的下降是最快的,但从整体上看则走了许多弯路,因此函数的下降并不算快。
共轭梯度法是共轭方向法中的一种,因为在该方法中每一个共轭的量都是依赖于迭代点处的负梯度而构造出来的,所以称作共轭梯度法。该方法的第一个搜索方向取作负梯度方向,这就是最速下降法。其余各步的搜索方向是将负梯度偏转一个角度,也就是对负梯度进行修正。所以共轭梯度法实质上是对最速下降法进行的一种改进,故它又被称作旋转梯度法。
鲍威尔法是直接利用函数值来构造共轭方向的一种共轭方向法,这种方法是在研究其有正定矩阵G的二次函数f(x)?1T其基本思想是在不用导xGx?bTx?c的极小化问题时形成的。
2数的前提下,在迭代中逐次构造G的共轭方向。在该算法中,每一轮迭代都用连结始点和终点所产生出的搜索方向去替换原向量组中的第一个向量,而不管它的“好坏”,这是产生向量组线性相关的原因所在。因此在改进的算法中首先判断原向量组是否需要替换。如果需要替换,还要进一步判断原向量组中哪个向量最坏,然后再用新产生的向量替换这个最坏的向量,以保证逐次生成共轭方向。
4-2.如何确定无约束优化问题最速下降法的搜索方向?
答:优化设计是追求目标函数值最小,因此搜所方向d取该点的负梯度方向-?f(x)。使函数值在该点附近的范围下降最快。按此规律不断走步,形成以下迭代的算法
xk?1由于最速下降法是以负梯度方向作为搜索方向,所以最速下降法有称为梯度法
为了使目标函数值沿搜索方向-?f(x)能获得最大的下降值,其步长因子a应取一维搜索的最佳步长。即有
kk?x???f(x)(k=0,1,2,…)
kkk?k?1??f??x????根据一元函数极值的必要条件和多元复合函数求导公式得;
k??kf?x?a?f(x)??mink??k??kf?x?a?f(x)??min?(?) ??由此可知,在最速下降法中,相邻两个迭代点上的函数梯度相互垂直。而搜索方向就是负
梯度方向,因此相邻的两个搜索方向相互垂直。这就是说在最速下降法中,迭代点向函数极小点靠近的过程。
k?1?Tk??k?1?Tk?)??f(x)?0或写成???f(x?d?d?0
????
4-3. 给定初始值
..
x0=[-7,11]T,使用牛顿法求函数
.
f(x1,x2)?(x1?2)2?(x1?2x2)2的极小值点和极小值。
解: 梯度函数、海赛矩阵分别为
?2(x?2)?2(x1?2x2)??f(x1,x2)??1? (2分) ?4(x?2x)12???11??4?4?2?1?24??2f(x1,x2)??,?f??? (4分) ?11??48????44?假设初始值x0=[-7,11]T
??76?则?f(x0)??, (1分) ??116??2??11020x?x??f??f(x)??? (2分)
?1??0?则?f(x1)???, (1分)
?0?x1满足极值的必要条件,海赛矩阵是正定的,所以是极小点
?1?*1x?x???,f(x*)??1。 (2分)
?1?????
4-4.以二元函数f(x1,x2)为例说明单形替换法的基本原理。
答:如图所示在平面上取不在同一直线上的三个点x1,x2,x3,以它们为顶点组成一单纯形。
计算各顶点函数值,设f(x1)>f(x2)>f(x3),这说明x3点最好,x1点最差。
为了寻找极小点,一般来说。应向最差点的反对称方向进行搜索,即通过x1并穿过x2x3的中点x4的方向上进行搜索。在此方向上取点x5
使 x5=x4+?(x4-x1)
x5称作x1点相对于x4点的反射点,计算反射点的函数值f(X5),可能出现以下几种情形;
1)f(x5) 2)f(x3) 3)f(x2) 4) f(x5)>f(x1),反射点比最差点还差,说明收缩应该多一些。将新点收缩在x1x4之间 5) f(x)>f(x1),说明x1x4方向上所有点都比最差点还要差,不能沿此方向进行搜索。 .. . 5-1.简述约束优化方法的分类。(简述约束优化问题的直接解法、间接解法的原理、特点及主要方法。) 答: 直接解法通常适用于仅含不等式约束的问题,它的基本思路是在m个不等式约束条件所确定的可行域内选择一个初始点x,然后决定可行搜索方向d,且以适当的步长?沿d方向进行搜索,得到一个使目标函数值下降的可行的新点x,即完成一个迭代。再以新点为起点,重复上述搜索过程,满足收敛条件后,迭代终止。所谓可行搜索方向是指,当设计点沿该方向作微量移动时,目标函数值将下降,且不会越出可行域。产生可行搜索方向的方法将由直接解法中的各种算法决定。 直接解法的原理简单,方法实用。其特点是:1)由于整个求解过程在可行域内进行,因此迭代计算不论何时终点,都可以获得一个比初始点好的设计点。2)若目标函数为凸函数,可行域为凸集,则可保证获得全域最优解。否则,因存在多个局部最优解,当选择的初始点不相同时,可能搜索到不同的局部最优解。为此,常在可行域内选择几个差别较大的初始点分别进行计算,以便从求得多个局部最优解中选择最好的最优解。3)要求可行域为有界的非空集,即在有界可行域内存在满足全部约束条件的点,且目标函数有定义。 直接解法有:随机方向法、复合形法、可行方向法、广义简约梯度法等。 间接解法有不同的求解策略,其中一种解法的基本思路是将约束优化问题中的约束函数进行特殊的加权处理后,和目标函数结合起来,构成一个新的目标函数,即将原约束优化问题转化成一个或一系列的无约束优化问题。再对新的目标函数进行无约束优化计算,从而间接地搜索到原约束问题的最优解。 间接解法是目前在机械优化设计中得到广泛应用的一种有效方法。其特点是:1)由于无约束优化方法的研究日趋成熟,已经研究出不少有效的无约束最优化方法和程序,使得间接解法有了可靠的基础。目前,这类算法的计算效率和数值稳定性也都有了较大提高。2)可以有效地处理具有等式约束的约束优化问题。3)间接算法存在的主要问题是,选取加权因子比较困难,加权因子选取不当,不但影响收敛速度和计算精度,甚至会导致计算失败。 间接解法有惩罚函数法和增广乘子法。 10 .. . 5-2.用内点法求下列问题的最优解: s?t2minf(x)?x12?x2?2x1?1 g1?3?x2?0(提示:可构造惩罚函数 ?(x,r)?f(x)?r?ln?gu(x)?,然后用解析法求 u?12解。) [解] 构造内点惩罚函数: 2?(x,r)?f(x)?r?ln?gu(x)??x12?x2?2x1?1?rln(3?x2) u?12令惩罚函数对x的极值等于零: ?d??2x1?2???0 dx?2x2?(?r)/(3?x2)??x1?1得: 6?36?8r x2?46?36?8r舍去负根后,得x2? 4当 r?0时,x2?3,该问题的最优解为x??13?T。 ..