摘要:
#反向传播算法 ##介绍 反向传播算法,简称BP算法,适合于多层神经元网络的一种学习算法,它建立在梯度下降法的基础上。BP网络的输入输出关系实质上是一种映射关系:一个n输入m输出的BP神经网络所完成的功能是从n维欧氏空间向m维欧氏空间中一有限域的连续映射,这一映射具有高度非线性。它的信息处理能力来源 阅读全文
摘要:
#梯度下降法 ##介绍 梯度下降是迭代法的一种,可以用于求解最小二乘问题(线性和非线性都可以)。在求解机器学习算法的模型参数,即无约束优化问题时,梯度下降(Gradient Descent)是最常采用的方法之一,另一种常用的方法是最小二乘法。在求解损失函数的最小值时,可以通过梯度下降法来一步步的迭代 阅读全文
摘要:
神经网络的结构 part 1 一、介绍 神经网络最早由心理学家和神经生物学家提出,由于神经网络在解决复杂问题时能够提供一种相对简单的方法,因此近年来越来越受到人们的关注。神经网络模型各种各样、 各式各样的模型从不同的角度对生物神经系统进行不同层次的描述和模拟。代表性的网络模型有BP网络、RBF网络、 阅读全文