最小均方算法（Least Mean Square, LMS）

最小均方算法（Least Mean Square, LMS）是一种简单、应用为广泛的自适应滤波算法。该算法不需要已知输入信号和期望信号的统计特征，“当前时刻”的权系数是通过“上一 时刻”权系数再加上一个负均方误差梯度的比例项求得。

算法思想：

主要在增加很少运算量的情况下能够加速其收敛速度，这样在自适应均衡的时候就可以很快的跟踪到信道的参数，减少了训练序列的发送时间，从而提高了信道的利用率。

基本原理：

根据小均方误差准则以及均方误差曲面，自然的我们会想到沿每一时刻均方误差的陡下降在权向量面上的投影方向更新，也就是通过目标函数ξ（k）的反梯度向量来反复迭代更新。由于均方误差性能曲面只有一个极小值，只要收敛步长选择恰当，不管初始权向量在哪，后都可以收敛到误差曲面的小点，或者是在它的一个邻域内。这种沿目标函数梯度反方向来解决小化问题的方法，我们一般称为速下降法，表达式如下：

\[w(k+1)=w(k)+\frac{1}{2}u(-\Delta ) \]

基于随机梯度算法的小均方自适应滤波算法的完整表达式如下：

\[y(k)=w^T(k)x(k) \]

\[e(k)=d(k)-y(k) \]

\[w(k+1)=w(k)+ue(k)x(k) \]

LMS自适应算法是一种特殊的梯度估计，不必重复使用数据，也不必对相关矩阵和互相关矩阵进行运算，只需要在每次迭代时利用输入向量和期望响应，结构简单，易于实现。虽然LMS收敛速度较慢，但在解决许多实际中的信号处理问题，LMS算法是仍然是好的选择。