机械优化设计备课笔记3

1、第四章 无约束优化方法§41 关于多元函数的几个有关问题一、多元函数的方向导数偏导数的意义 导数是用来描述函数随自变量变化的变化率。对于一个多元化函数，可以用偏导数的概念来研究函数沿各坐标方向的变化率。如图所示，二维函数F(x)为一空间的曲面。在定义域内的某点处函数f(x)的偏导数的定义为：偏导数的几何意义为：曲面上的某点K与定义域上x(0)点相对应。过某点作垂直于ox2轴线的平面，即x2=x20，该平面与曲面的交线为S1，直线T1为曲线S1上过K点的切线，则偏导数(或)就是切线的斜率。当时，函数(x)在x0点邻域内，沿ox1轴方向为递增；但时，函数F(x)在x0点邻域内沿ox1轴方

2、向分为递减。因此，偏导数是表示函数F(x)在x0点处沿坐标x1轴方向的变化率；同理，偏导数是曲线S2上K点处的切线T2的斜率，它表示函数F(x)在x0点处沿坐标x1方向的变化率。由此可见，多元函数的偏导数是描述函数沿坐标轴方向随自变量变换的变化率。为了求出多元函数沿任意给定方向的变化率，需要引入方向导数的概念。2、方向导数的定义及几何意义：二元函数F(x1,x2)在点处沿某一给定方向l的导数定义为：由x0点沿l方向取一足够小的长度到x点，即：这时函数值由F(x10，x20)变化到F(x10+x10，x20+x20)，如果0时，下述极限值：若存在，则该极限值就定义为函数F(x)在x0点处沿l方向

3、上的方向导数，记作为：或简记为：方向导数是用来描述函数F(x)在x0点处沿方向l上的变化率。它的几何含义是：过x0点沿单位矢量l0方向作与平面x1ox2相垂直的平面，该平面与曲面的交线为Sl，直线Tl是该曲线Sl上过x0点的切线，则在x0点处沿l方向的方向导数就是曲线Sl在K点的切线Tl之斜率。若，则表示函数在0点处沿l方向是递增得；若，则表示函数在0点处沿l方向为递减。3、方向导数与偏导数、之间的关系若单位矢量l0方向与坐标轴x1，x2之间的夹角分别为1、2：，则方向导数与偏导数之间的关系如下：当0时,并且，因此，上式方向导数可以写成为:我们可以将上述二元函数的方向导数概念推广到元函数中，在

4、维空间中，元函数在0点处沿给定单位矢量方向lcos1,cos2,.,cosnT上的方向导数与沿各坐标轴的偏导数（I=1,2,n）之间关系为：二、多元函数的梯度建立了方向导数的概念后，我们进一步提出这样一个问题：多元函数F(x)在何点x0处沿何方向上方具有最大的方向导数呢？或者说，沿何方向上函数的变化率为最大呢？为了研究这个问题，我们需要引入函数的梯度概念。我们仍然从二元函数开始讨论。二元函数F(x)在x0点处的方向导数的表达式可以用列矩阵来表示为：令一矢量：显然，该矢量的模为：其方向余弦为：矢量称为函数在某点处的梯度。它可以表示为：上式中，分别表示矢量与坐标轴的夹角。而方向的模为：即为单位矢量

5、。因此，二元函数在某点处沿单位矢量方向的方向导数可以表达为：，即： 利用上述方向导数的表达式，我们下面讨论二元函数在某点处沿何方向上具有最大的方向导数的问题。 由于函数在某点处的偏导数是确定值，因而由它们构成在某点处的函数梯度矢量及其模都是确定的量，而与方向导数的方向无关。由上式可知：是梯度矢量与方向的夹角的余弦，它的大小将随着方向的选取不同而变化。当所选取的方向恰好与梯度的方向重合时，这时函数沿某方向即方向的变化率为最大。因此，我们可以得出如下结论：函数的梯度是一个矢量，它可以用函数的一阶偏导数所组成的列矩阵来表示，即，。梯度的方向是函数在某点处函数值变化率为最大的方向，梯度的模就是函数变化

6、率的最大值。 梯度的几何意义：如图所示，设有一个二元函数，其所示的曲面为，为定义域内某点，其函数值为。若作一个与平面平行，且高的平面，该平面与函数所表示的曲面相交，得一等函数值的曲线，将这一曲线投影于坐标平面上，则该曲线上的各点的函数值均相等。坐标平面上的曲线就是函数值为的等值线。理论上讲，可以在坐标平面上作出无数条等值线。在等值线上过点作一切线，其方向为。函数在沿等值线上某点处的切线方向的方向导数，这是因为沿等值线上某点的切线方向，函数值的变化率为零，即。又由于，所以，。由上式可见：梯度矢量的方向必定与等值线的切线方向相垂直。由此可得出如下结论：梯度是函数在定义域内某点处的矢量。梯度的方向是

7、函数在该点处变化率最快的方向，也就是说是函数值增加最快或最速上升的方向；而负梯度方向是函数值减小最快或最速下降的方向；与梯度成锐角方向的为函数值上升的方向；与负梯度方向成锐角方向的为函数值下降的方向；函数在某点梯度矢量只是指出该点极小领域内函数值的最速上升和下降方向，因而梯度最速上升或最速下降的性质仅是函数在该点极小领域内的局部性质。函数在定义域内的各点都有各自对应的一个确定的梯度；多元函数在其等值线和等值面上的各点处，函数的梯度矢量指向函数等值线和等值面的外法线方向。二元函数的梯度概念同样可以推广到多元函数中，设有一个多元函数在某定义域内有连续的一阶偏导数，则在某点处梯度为：函数的梯度也可以

8、用符号和来表示梯度矢量的模为：沿梯度方向上的单位矢量为：二元函数的梯度性质（即上述三个结论）也完全适用于多元函数。三、二次型函数 二次型函数是指含有n个自变量又l，又2，ooo，3n的二次齐次函数：将上式写成矩阵形式y(塞)真1(鹰11尤1十配12尤2十十“1”嚣n)十辽2(配21又1十o 22又3十·。 十“2n又n)十·。·十2in(6”l又1十oR2又3十十6”n义”)若令则式(26b)简记为严(真)真A真 对于二次型函数F(真)xTA真，若对于任意不为零的真t又l 23 2n，恒有严(X)o，则相应的系数矩阵4称为正定矩阵。若恒有严(真)0，则称A为半正定矩阵。 类似以上定义。若对于任意不为零的真，恒有F(X)0，则矩阵A称为负定矩阵。若对于某些塞有严(X)o，而对另一些又有y(真)0，称A为不定矩阵。 式