实验四：共轭梯度法
一、实验目的
掌握共轭梯度法的基本思想及其迭代步骤；学会运用MATLAB编程实现常用优化算法；能够正确处理实验数据和分析实验结果及调试程序。
二、实验内容
（1）求解无约束优化问题：
（2）终止准则取；
（3）完成FR共轭梯度法的MATLAB编程、调试；
（4）选取几个与实验二实验三中相同的初始点，并给出相关实验结果的对比及分析（从最优解、最优值、收敛速度（迭代次数）等方面进行比较）；
（5）按照模板撰写实验报告，要求规范整洁。
三、算法步骤、代码、及结果
1. 算法步骤
初始化
定义目标函数 func，它是一个字符串表达式，描述了优化问题的目标。
初始化起始点 x0，它是一个向量，表示在搜索空间中的起始位置。
设置容忍度 tol，用于确定何时停止迭代（当梯度的范数小于此值时）。
设置最大迭代次数 max_iter，以防止无限循环。
定义变量和函数
使用 length(x0) 确定变量的数量 n。
使用符号变量 vars 定义符号表达式中的变量。
将目标函数字符串 func 转换为符号表达式 funf_sym。
计算目标函数的梯度 gradf_sym 和海森矩阵 hessf_sym（尽管FR方法通常不需要海森矩阵，但这里被计算了）。
将符号表达式转换为MATLAB函数句柄 funf、gradf 和 hessf，以便在数值计算中使用。
迭代过程
初始化当前点 x 为起始点 x0。
计算当前点的梯度 g。
初始化搜索方向 d 为负梯度方向 -g。
初始化迭代计数器 k 为0。
主循环
当梯度的范数大于 tol 且迭代次数小于 max_iter 时，进行以下迭代：
计算搜索方向 d 与海森矩阵 Hd 的乘积（尽管FR方法不使用这个值来计算步长，但这里计算了）。
使用FR公式计算步长 alpha：alpha = -(g' * d) / (d' * Hd)（注意：这里通常使用线搜索来找到最佳步长，而不是直接用这个公式）。
更新当前点 x：x = x + alpha * d。
计算新点的梯度 g_new。
使用FR公式更新搜索方向 d：d = -g_new + beta * d，其中 beta = (g_new' * g_new) / (g' * g)。
更新梯度 g 为 g_new。
递增迭代计数器 k。
输出
迭代完成后，输出最优解 x 和迭代次数 k
2. 代码
function [x, iter] = FR(func, x0, tol, max_iter)
n = length(x0);
vars = sym('x', [1 n]);
funf_sym = str2sym(func);
gradf_sym = gradient(funf_sym, vars);
hessf_sym = hessian(funf_sym, vars);
funf = matlabFunction(funf_sym, 'Vars', {vars.'});
gradf = matlabFunction(gradf_sym, 'Vars', {vars.'});
hessf = matlabFunction(hessf_sym, 'Vars', {vars.'});
x = x0;
g = gradf(x);
d = -g;
k = 0;
while norm(g) > tol && k < max_iter
Hd = hessf(x) * d;
alpha = -(g' * d) / (d' * Hd);
x = x + alpha * d;
g_new = gradf(x);
beta = (g_new' * g_new) / (g' * g);
d = -g_new + beta * d;
g = g_new;
k = k + 1;
end
iter = k;
end
func = '(x1 + 10*x2)^2 + 5*(x3 - x4)^2 + (x2 - 2*x3)^4 + 10*(x1 - x4)^4';
x0 = [2; 2; 2; 2];
tol = 1e-6;
max_iter = 1000;
[x, iter] = FR(func, x0, tol, max_iter);
disp('Optimal solution x:');
disp(x);
disp(['Number of iterations: ', num2str(iter)]);
3. 结果
四、心得体会
通过本次实验我知道了共轭梯度法的实验原理
FR共轭梯度法是一种用于求解无约束优化问题的迭代算法，它结合了梯度下降法的迭代格式和共轭梯度法的思想。该方法在每一步迭代中，利用前一步的搜索方向和当前点的梯度信息来构造新的搜索方向，并通过一定的步长调整来更新迭代点。FR共轭梯度法具有二次终止性，即对于二次函数，该方法可以在有限步内达到精确解。
我对比了FR共轭梯度法与之前实验中使用的方法的性能差异，并分析了在最优解、最优值以及收敛速度等方面的差异。这次实验不仅加深了我对优化算法的理解，还提高了我的编程和调试能力。同时，我也认识到了不同算法在求解实际问题时的优缺点和适用范围。在未来的学习和研究中，我将继续探索更多的优化
