基于matlab的强化学习QLearning路径规划性能仿真
- 算法概述
假设我们的行为准则已经学习好了, 现在我们处于状态s1, 我在写作业, 我有两个行为 a1, a2, 分别是看电视和写作业, 根据我的经验, 在这种 s1 状态下, a2 写作业 带来的潜在奖励要比 a1 看电视高, 这里的潜在奖励我们可以用一个有关于 s 和 a 的 Q 表格代替, 在我的记忆Q表格中, Q(s1, a1)=-2 要小于 Q(s1, a2)=1, 所以我们判断要选择 a2 作为下一个行为. 现在我们的状态更新成 s2 , 我们还是有两个同样的选择, 重复上面的过程, 在行为准则Q 表中寻找 Q(s2, a1) Q(s2, a2) 的值, 并比较他们的大小, 选取较大的一个. 接着根据 a2 我们到达 s3 并在此重复上面的决策过程. Q learning 的方法也就是这样决策的. 看完决策, 我看在来研究一下这张行为准则 Q 表是通过什么样的方式更改, 提升的.
Q-Learning它是强化学习中的一种 values-based 算法，是以QTable表格形式体现，在学习中遇到的任何操作存入QTable中，根据之前的学习选择当前最优操作，也可以根据设置的e_greedy机率随机选择。
Q-Learning的QTable标签更新公式：
Q-Learning的计算步骤:
1.判断在当前位置可以有几种操作；
2.根据当前位置允许的操作选择一个操作；
3.根据选择的操作进行奖赏；
4.修改当前行为的本次操作权重；
2.仿真效果预览
matlab2022a仿真测试如下：
3.核心MATLAB代码预览
NNPolicy=zeros(prod([driver_actions Xscale Yscale]),1);
for i=1:pathtimes
i
Positions = stpt;
drivers = 0; %开车
E = zeros(prod([driver_actions Xscale Yscale]),1);
for j=1:maxiter
%计算训练驾驶策略
if j>=2
Choice = ndi2lin([1 Positions(1) Positions(2)],[driver_actions Xscale Yscale]);
Choice2 = ndi2lin([drivers Prestate(1) Prestate(2)],[driver_actions Xscale Yscale]);
delta = feedback + cb*max(NNPolicy(Choice:Choice+driver_actions-1))-NNPolicy(Choice2);
E(Choice2) = 1;
NNPolicy = NNPolicy + ca*delta*E;
E = cb*lambda*E*~exploring;
end
%选择动作
Choice = ndi2lin([1 Positions(1) Positions(2)],[driver_actions Xscale Yscale]);
Choice = [Choice:Choice+driver_actions-1];
tmps = find(NNPolicy(Choice) == max(NNPolicy(Choice)));
%是否转向
drivers = tmps(ceil(rand * length(tmps)));
%探索策略
if rand<LR
drivers=floor(rand*driver_actions)+1;
exploring = 1;
else
exploring = 0;
end
LR=LR/pathtimes;
Prestate=Positions;
[Positions,feedback] = nomancar(Positions,drivers,driver_direction,map_route,Xscale,Yscale);
if edpt(1)==Positions(1) & edpt(2)==Positions(2)
break
end
end
Itertion_times(k)=j;
if k>32
Error(k)=mean(Itertion_times(length(Itertion_times)-32+1:length(Itertion_times)));
else
Error(k)=mean(Itertion_times(1:length(Itertion_times)));
end
k=k+1;
end
A_005
