摘要:
MOD(Method of Optimal Direction)是早期的基于样本学习的字典学习算法. 设目标函数中$X$已知,信号的误差定义如下:
$$\|E\|^2_F = \|Y - DX\|^2_F$$
MOD算法更新字典的策略就是实现表征误差最小化,所以公式两端针对$D$求偏导,会推到出$(Y - DX)X^{\mathrm{T}} = 0$,整个字典的更新过程如下:
$$D^{n + 1} = Y (X^n)^{\mathrm{T}} \cdot (X^n(X^n)^{\mathrm{T}})^{-1}$$
一般MOD算法需要几十次迭代即可收敛是一个比较可行的方法。缺点在于运算中需要对矩阵求逆,造成计算量过大. 阅读全文