优化设计的数学基础

因此，多元函数F?X?在Xk点的泰勒展开式可用向量矩阵形式表达为

其中，

为F?X?在Xk点的一阶偏导数的列向量，称为梯度；

为F?X?在Xk点的二阶偏导数矩阵，由于函数的二次连续性，它是一个n×n阶的对称方阵，统称为函数F?X?在点Xk的海色（Hessian）矩阵。

在优化设计中，目标函数取到自变量（设计变量）的二次函数表

达式已足够准确（这称为目标函数的平方近似表达式），因为数学上己证明：对于非标准球面或椭球抛物面的一般非线性目标函数（即高次函数），在其极值点附近的等值线簇仍为同心椭圆簇，即目标函数在极值点附近是二次函数。此外，二次函数的某些特征还为一些高效寻优方法的建立提供了理论依据，因此要重视二次函数。这样，对多元函数的泰勒展开式只取前三项就可以，记为如下形式：

二、无约束优化问题的极值条件

从高等数学可知，一元函数存在极值点的必要和充分条件是：函

?F?x?数的一阶导数?F'?x??0（即找到驻点）和二阶导数

?x?2F?x??x题

2 ?F''?x??0。当F''?x??0时为极大；F''?x??0时为极小。

类似地，对于n元函数F?X??F?x1,x2,?,xn?的无约束极值问

点X为一个局部极值点的充分必要条件是：

1）一阶导数向量?FX?????FX??0，即?0i?1,2,?,n；

?xi2??2）二阶导数矩阵，即海色矩阵?FX???为正定或负定，即

???为正定或负定，且当HX为正定时X为极小点；当HX为负定

????时X为极大点。（其证明可参见教材p. 20～22）

判断矩阵A正定或负定的方法是检验其各阶顺序主子式，若各阶顺序主子式均大于0，如下：

?

则A为正定矩阵；若各阶顺序主子式行列式值正负号交替出现，则为负定矩阵。若不满足正负定矩阵条件则为不定矩阵，则不可采用上述方法计算极值。

22例2-2 求函数F?x1,x2??x1?x2?4x1?4x2?7的极值。

解：根据极值的必要条件求驻点

T???X?2,4得到驻点

再根据极值的充分条件，判断此点是否为极值点。由于

T??其各阶主子式均大于0，即HX为正定，故X??2,4?为极小点，极小值为FX?????13

??第四节 约束优化问题的极值条件

求解约束优化问题

求解上述问题的实质是在所有的约束条件所形成的可行域内，求得目标函数的极值点，即约束最优点。由于约束最优点不仅与目标函数本身的性质有关，还与约束函数的性质有关，因此约束条件下的优化问题比无约束条件下的优化问题更为复杂。

库恩-塔克（Kuhn-Tucker）条件（简称K-T条件）是非线性规划领域中最重要的理论成果之一，通常借助库恩－塔克条件来判断和检验约束优化问题中某个可行点是否为约束极值点，即将K-T条件作为确定一般非线性规划问题中某点是否为极值点的必要条件，对于凸规划问题，K-T条件同时也是一个充分条件。但是如何判别所找到的极值点是全域最优点还是局部极值点，至今还没有一个统一而有效的判别方法。

K-T条件可阐述为：

?若X是一个局部极小点，则该点的目标函数梯度?FX???可表示