2024.6.7

最速下降法

最速下降法是一种基本的优化算法，其核心思想是沿着函数梯度的反方向进行搜索。在本次实验中，我们实现了最速下降法，并测试了其在一些简单函数上的收敛性和收敛速度。

牛顿法

牛顿法是一种迭代算法，用于寻找方程的根或者无约束最小化函数的值。该方法利用函数的二阶导数信息，在每一步迭代中进行更新。我们在实验中实现了牛顿法，并比较了其与最速下降法的性能。

共轭梯度法

共轭梯度法是一种迭代算法，用于求解大型线性方程组或非线性优化问题。与梯度下降法相比，共轭梯度法具有更快的收敛速度。我们在实验中实现了共轭梯度法，并探讨了其优势和局限性。

黄金分割法

黄金分割法是一种用于一维搜索的优化算法，其通过在搜索区间内逐步缩小搜索范围来寻找函数的极小值。我们在实验中实现了黄金分割法，并验证了其在一维函数优化中的有效性。

Matlab 最优化工具箱

Matlab 最优化工具箱提供了丰富的优化函数和算法，包括但不限于 fmincon、fminunc 等。我们在实验中学习了如何使用这些函数解决实际的优化问题，并比较了它们与我们自己实现的算法的性能差异。

实验结果与分析

我们在实验中针对不同的优化问题，分别应用了最速下降法、牛顿法、共轭梯度法、黄金分割法以及 Matlab 最优化工具箱中的算法进行求解，并记录了它们的收敛情况、迭代次数以及最终结果。通过对比分析，我们得出了以下结论：

• 在某些简单函数上，最速下降法和牛顿法可能会陷入局部最优解，而共轭梯度法具有更好的全局搜索能力。
• 黄金分割法在一维搜索问题上表现出色，但在高维问题上效率较低。
• Matlab 最优化工具箱提供了一系列高效的优化算法，可以快速解决复杂的优化问题。

本次实验通过实现和比较了几种常见的数值优化算法，加深了对这些算法原理和应用的理解。未来，我们可以进一步探索更多优化算法，并结合实际问题进行应用和优化。