径向基函数神经网络(RBF)

RBF网络模拟了人脑中局部调整、相互覆盖接收域（或称感受野，ReceptiveField）的神经网络结构，已证明RBF网络能以任意精度逼近任意连续函数。RBF网络的学习过程与BP网络的学习过程类似，两者的主要区别在于各使用不同的激活函数。BP网络中隐含层使用的是S函数，其值在输入空间中无限大的范围内为非零值，因而是一种全局逼近的神经网络；而RBF网络中的激活函数是高斯基函数，其值在输入空间中有限的范围内为非零值，因而RBF网络是局部逼近的神经网络。

以上是《智能控制(第五版)-刘金琨》书的原话。

说简单点就是利用多个高斯基函数和权值ω的乘积之和得到一个逼近原函数值的输出，再通过其和原函数值的误差来反向更新权值(梯度下降法)，其实这是绝大部分神经网络或者神经元进行逼近任意函数的算法底层原理：误差下降。如下图

RBF网络结构

 

其中高斯基函数为

高斯基函数

 

其中c为高斯函数的中心向量，b为宽度向量，由高斯函数可知，x越接近c，其得到的值越大，反之则越小甚至为0，所以x值具有一定的有意义取值区间，则称之为局部逼近。

　

 

五个不同c值的高斯基函数

 

 

 

 加入系统中，结构如图

系统结构图

 

用来反向更新权值的误差函数及更新公式

 

误差函数

 

 

 

更新公式

 

简易的实验：对方波跟踪

 

跟踪局部放大图