一句话总结人工神经网络

 

人工神经网络

 

核心：一个多层的复合函数。

 

人工神经网络在本质上是一个多层的复合函数：

                       

 

它实现了从向量x到向量y的映射。由于使用了非线性的激活函数f，这个函数是一个非线性函数。

 

神经网络训练时求解的问题不是凸优化问题。反向传播算法由多元复合函数求导的链式法则导出。

 

标准的神经网络是一种有监督的学习算法，是一种非线性模型，它既可以用于分类问题，也可以用于回归问题，天然的支持多分类问题。