01(a)一元函数_多元函数_无约束极值问题的求解
转成Latex上传太麻烦，直接截图上传了，需要电子版的可以关注一下，微信公众号：“实干小海豹”，回复：”优化01a“，”优化01b“，”优化02a“，”优化02b“，”优化02c“，”优化02c“.....就可以得到相应的电子版内容。二维码在最后面
1、 一元函数的极值问题 (函数光滑)
对于一个一元函数$f(x)$，怎么才能找出它的极值呢？
1.1根据定义：如果存在一点${{x}_{0}}$，在点${{x}_{0}}$的某个领域$U({{x}_{0}})$内有，除该点外的任意一点$x$满足：
$f(x)<f({{x}_{0}})$ 或$(f(x)>f({{x}_{0}}))$
$\Delta f=f(x)-f({{x}_{0}})<0$ 或$\Delta f=f(x)-f({{x}_{0}})>0$
则称$f({{x}_{0}})$是函数$f(x)$的一个极小值，${{x}_{0}}$称为极小值点。反之亦然。
根据费马引理可知，极值点的一阶导数一定满足：
${f}'({{x}_{0}})=0$
那么是不是所有一阶导等于零的点都是极值点呢？
图1
从图1中可以看出，在点$x={{x}_{3}}$处${f}'({{x}_{3}})=0$，但是该点并不是极值点。按照函数的单调性来看，极值点应该存在于，${f}'({{x}_{3}}-\Delta x)$与${f}'({{x}_{3}}+\Delta x)$异号的情况下，从图中可以看出在点$x={{x}_{3}}$处的前后函数的一阶导数都是小于0的，是单调递减的，因此不是极值点。
一阶导数${f}'(x)=0$的点，只能算作驻点(驻：即为停留的意思)，驻点可分为：极大值点、极小值点和拐点。
由上述内容可知，判断极值点的方法可总结为：
- 求出一阶导数${f}'(x)$等于0的点；
- 判断这些点，前后是否异号：如果${f}'({{x}_{0}}-\Delta x)>0$且${f}'({{x}_{0}}+\Delta x)<0$，则点$x={{x}_{0}}$为极大值点；若${f}'({{x}_{0}}-\Delta x)<0$且${f}'({{x}_{0}}+\Delta x)>0$，则点$x={{x}_{0}}$为极小值点；若该点前后一阶导数${f}'(x)$符号保持不变，则不是极值点。
而判断驻点是否为极值点的另外一种方法可以描述为：
设函数$f(x)$在$x={{x}_{0}}$处，${f}'({{x}_{0}})=0$且二阶导数存在且${f}''({{x}_{0}})\ne 0$，则：
- 当${f}''({{x}_{0}})<0$时，函数$f(x)$在$x={{x}_{0}}$处取得极大值；
- 当${f}''({{x}_{0}})>0$时，函数$f(x)$在$x={{x}_{0}}$处取得极小值。
证明:
${f}''({{x}_{0}})=\underset{x\to {{x}_{_{0}}}}{\mathop{\lim }}\,\frac{{f}'(x)-{f}'({{x}_{0}})}{x-{{x}_{0}}}$
因为${f}'({{x}_{0}})=0$，所以上式可写为：
${f}''({{x}_{0}})=\underset{x\to {{x}_{_{0}}}}{\mathop{\lim }}\,\frac{{f}'(x)}{x-{{x}_{0}}}$
当${f}''({{x}_{0}})<0$时，即当$x-{{x}_{0}}<0$时，${f}'(x)>0$，同理当$x-{{x}_{0}}>0$时，${f}'(x)<0$；故由第一种方法可知，该点为极大值点。${f}''({{x}_{0}})>0$时，同理可得。
2、 多元函数的极值问题 (函数光滑) 以二元函数为例
设函数$z=f(x,y)$在点$({{x}_{0}},{{y}_{0}})$的某个领域内连续，一阶偏导数连续且${{f}_{x}}({{x}_{0}},{{y}_{0}})=0,$${{f}_{y}}({{x}_{0}},{{y}_{0}})=0$，二阶偏导数存在且连续，令：
${{f}_{xx}}({{x}_{0}},{{y}_{0}})=A,\text{ }{{f}_{xy}}({{x}_{0}},{{y}_{0}})=B,\text{ }{{f}_{yy}}({{x}_{0}},{{y}_{0}})=C$
则有：
1 当$AC-{{B}^{2}}>0$时具有极值，且当$A>0$时有极小值，当$A<0$时有极大值；
2 当$AC-{{B}^{2}}<0$时没有极值；
3 当$AC-{{B}^{2}}=0$时可能有极值，也可能没有极值，还需另作讨论；
证明：
对于一个一元函数来说，若函数$f(x)$在$x={{x}_{0}}$的某个邻域内具有$(n+1)$阶导数，那么在该邻域内任意一点$x$，可表示为：
\begin{aligned}f(x)&=f({{x}_{0}})+{f}'({{x}_{0}})(x-{{x}_{0}})+\frac{{f}''({{x}_{0}})}{2!}{{(x-{{x}_{0}})}^{2}}+...+\frac{{{f}^{(n)}}({{x}_{0}})}{n!}{{(x-{{x}_{0}})}^{n}}+ \\ &\text{ }\frac{{{f}^{(n+1)}}({{x}_{0}}+\theta(x-{{x}_{0}}))}{(n+1)!}{{(x-{{x}_{0}})}^{n+1}}\text{ }(0<\theta <1)\text{ } \end{aligned}
对于二元函数$z=f(x,y)$：若函数$z=f(x,y)$在$({{x}_{0}},{{y}_{0}})$的某一邻域内连续且具有$(n+1)$阶导数，那么邻域内任意一点$({{x}_{0}}+h,{{y}_{0}}+k)$，可表示为：
\begin{aligned}& f({{x}_{0}}+h,{{y}_{0}}+k)=f({{x}_{0}},{{y}_{0}})+\left( h\frac{\partial }{\partial x}+k\frac{\partial }{\partial y} \right)f({{x}_{0}},{{y}_{0}})+ \\& \text{ }\frac{1}{2!}{{\left( h\frac{\partial }{\partial x}+k\frac{\partial }{\partial y} \right)}^{2}}f({{x}_{0}},{{y}_{0}})+...+\frac{1}{n!}{{\left( h\frac{\partial }{\partial x}+k\frac{\partial }{\partial y} \right)}^{n}}f({{x}_{0}},{{y}_{0}})+ \\& \text{ }\frac{1}{(n+1)!}{{\left( h\frac{\partial }{\partial x}+k\frac{\partial }{\partial y} \right)}^{n+1}}f({{x}_{0}}+\theta h,{{y}_{0}}+\theta k)\text{ (0}\theta <1\text{)} \\\end{aligned}
其中：$\left( h\frac{\partial }{\partial x}+k\frac{\partial }{\partial y} \right)f({{x}_{0}},{{y}_{0}})$表示：$h{{f}_{x}}({{x}_{0}},{{y}_{0}})+k{{f}_{y}}({{x}_{0}},{{y}_{0}})$
${{\left( h\frac{\partial }{\partial x}+k\frac{\partial }{\partial y} \right)}^{2}}f({{x}_{0}},{{y}_{0}})$表示：${{h}^{2}}{{f}_{xx}}({{x}_{0}},{{y}_{0}})+2hk{{f}_{xy}}({{x}_{0}},{{y}_{0}})+{{k}^{2}}{{f}_{yy}}({{x}_{0}},{{y}_{0}})$
将$f({{x}_{0}}+h,{{y}_{0}}+k)$展开至二阶导数处，有：
\[f({{x}_{0}}+h,{{y}_{0}}+k)=f({{x}_{0}},{{y}_{0}})+\left( h\frac{\partial }{\partial x}+k\frac{\partial }{\partial y} \right)f({{x}_{0}},{{y}_{0}})+\frac{1}{2}{{\left( h\frac{\partial }{\partial x}+k\frac{\partial }{\partial y} \right)}^{2}}f({{x}_{0}}+\theta h,{{y}_{0}}+\theta k)\text{ (0}\theta <1\text{)}\]点$({{x}_{0}},{{y}_{0}})$邻域内任意一点与该点的差值可表示为：
\[\Delta f=f({{x}_{0}}+h,{{y}_{0}}+k)-f({{x}_{0}},{{y}_{0}})=\left( h\frac{\partial }{\partial x}+k\frac{\partial }{\partial y} \right)f({{x}_{0}},{{y}_{0}})+\frac{1}{2}{{\left( h\frac{\partial }{\partial x}+k\frac{\partial }{\partial y} \right)}^{2}}f({{x}_{0}}+\theta h,{{y}_{0}}+\theta k)\text{ }\]因为${{f}_{x}}({{x}_{0}},{{y}_{0}})=0,$${{f}_{y}}({{x}_{0}},{{y}_{0}})=0$，所以$\left( h\frac{\partial }{\partial x}+k\frac{\partial }{\partial y} \right)f({{x}_{0}},{{y}_{0}})=0$，故有：
\begin{aligned} & \Delta f=\frac{1}{2}{{\left( h\frac{\partial }{\partial x}+k\frac{\partial }{\partial y} \right)}^{2}}f({{x}_{0}}+\theta h,{{y}_{0}}+\theta k)\text{ } \\& \text{ =}\frac{1}{2}\left[ \left( {{h}^{2}}{{f}_{xx}}({{x}_{0}}+\theta h,{{y}_{0}}+\theta k) \right)+2hk{{f}_{xy}}({{x}_{0}}+\theta h,{{y}_{0}}+\theta k)+{{k}^{2}}{{f}_{yy}}({{x}_{0}}+\theta h,{{y}_{0}}+\theta k) \right] \\\end{aligned}
把${{f}_{xx}}(x,y),{{f}_{xy}}(x,y),{{f}_{yy}}(x,y)$在点$({{x}_{0}}+\theta h,{{y}_{0}}+\theta k)$处的值依次记为：${{f}_{xx}},{{f}_{xy}},{{f}_{yy}}$；则上式可写为：
\[\Delta f=\frac{1}{2{{f}_{xx}}}\left[ {{\left( h{{f}_{xx}}+k{{f}_{xy}} \right)}^{2}}+{{k}^{2}}\left( {{f}_{xx}}{{f}_{yy}}-{{f}^{2}}_{xy} \right) \right]\]
- 显然当${{f}_{xx}}{{f}_{yy}}-{{f}^{2}}_{xy}>0$时，$\Delta f$的正负由${{f}_{xx}}$决定，即当${{f}_{xx}}>0$时，$\Delta f>0$，则该点为极小值点；当${{f}_{xx}}<0$时，$\Delta f<0$，则该点为极大值点。又因为$f(x,y)$的二阶偏导数的连续性知${{f}_{xx}}$与$A$同号，即为$AC-{{B}^{2}}>0$的情况。
- 当${{f}_{xx}}{{f}_{yy}}-{{f}^{2}}_{xy}<0$时，假设${{f}_{xx}}({{x}_{0}},{{y}_{0}})=0,$${{f}_{yy}}({{x}_{0}},{{y}_{0}})=0$，并分别令：$k=h$及$k=-h$；则有：
\[\begin{aligned} & \Delta f=\frac{1}{2}\left[ \left( {{h}^{2}}{{f}_{xx}}({{x}_{0}}+{{\theta }_{1}}h,{{y}_{0}}+{{\theta }_{1}}k) \right)+2hk{{f}_{xy}}({{x}_{0}}+{{\theta }_{1}}h,{{y}_{0}}+{{\theta }_{1}}k)+{{k}^{2}}{{f}_{yy}}({{x}_{0}}+{{\theta }_{1}}h,{{y}_{0}}+{{\theta }_{1}}k) \right] \\ & \text{ =}\frac{{{h}^{2}}}{2}\left[ \left( {{f}_{xx}}({{x}_{0}}+{{\theta }_{1}}h,{{y}_{0}}+{{\theta }_{1}}h) \right)+2{{f}_{xy}}({{x}_{0}}+{{\theta }_{1}}h,{{y}_{0}}+{{\theta }_{1}}h)+{{f}_{yy}}({{x}_{0}}+{{\theta }_{1}}h,{{y}_{0}}+{{\theta }_{1}}h) \right] \\\end{aligned}\]
及
\[\begin{aligned} & \Delta f=\frac{1}{2}\left[ \left( {{h}^{2}}{{f}_{xx}}({{x}_{0}}+{{\theta }_{2}}h,{{y}_{0}}+{{\theta }_{2}}k) \right)+2hk{{f}_{xy}}({{x}_{0}}+{{\theta }_{2}}h,{{y}_{0}}+{{\theta }_{2}}k)+{{k}^{2}}{{f}_{yy}}({{x}_{0}}+{{\theta }_{2}}h,{{y}_{0}}+{{\theta }_{2}}k) \right] \\& \text{ =}\frac{{{h}^{2}}}{2}\left[ \left( {{f}_{xx}}({{x}_{0}}+{{\theta }_{2}}h,{{y}_{0}}-{{\theta }_{2}}h) \right)-2{{f}_{xy}}({{x}_{0}}+{{\theta }_{2}}h,{{y}_{0}}-{{\theta }_{2}}h)+{{f}_{yy}}({{x}_{0}}+\theta h,{{y}_{0}}-{{\theta }_{2}}h) \right] \\& \text{ } \\\end{aligned}\]
当$h\to 0$时上式有：$\Delta f=2{{f}_{xy}}({{x}_{0}},{{y}_{0}})$及$\text{ -}2{{f}_{xy}}({{x}_{0}},{{y}_{0}})$，当$h$充分接近零时，$\Delta f$呈现两种结果，故此时极值不存在。
