正交函数光滑法

定义\(L_2(a,b)\)={$f:[a,b] \to R,\int_a^b f(x)^2 dx<\infty $ }
两个函数$f,g \in L_2 $ 的内积定义为 \(\int f(x)g(x)dx\),f的范数为\(|f|=\sqrt{\int f(x)^2dx}\)
若\(\int f(x)g(x)dx=0\)，则这两个函数是正交的
若对于每个\(j\)有\(\int \phi_j^2(x)dx=1\)，且对于\(i\neq j\),有\(\int \phi_i(x) \phi_j(x)=0\).则函数序列 \(\phi_1,\phi_2,\cdots\),是规范正交的，若与每个 \(\phi_j\) 都是正交的函数，则这个正交序列是完备的，在这种情况下，函数\(\phi_1,\phi_2,\cdots\)构成一组基，意思是若\(f \in L_2\)，则f可以写为:\(f(x)=\sum_{j=1}^{\infty}\beta_j \phi_j(x)\)
其中系数\(\beta_j=\int_a^b f(x)\phi_j(x)dx\)

小波
假设回归函数f在某点x有一个急剧的跳跃，但是f在其他点是非常光滑的，这样的函数被称为空间非齐性的。用普通正交基去估计这样的函数是非常空难的，只保留低阶项，或用一个大的带宽的核回归，都会将峰值光滑掉，若允许高阶项或小的带宽，虽然能发现峰值，但曲线的其余部分波动剧烈。估计非齐性函数的一个方法是用一个更加细致的基，这个基允许在某个小区域内放置一个"尖头"信号而不再别处添加波动。