摘要:
为什么要使用backpropagation? 梯度下降不用多说,如果不清楚的可以参考梯度下降算法。 神经网络的参数集合theta,包括超级多组weight和bais。 要使用梯度下降,就需要计算每一个参数的梯度,但是神经网络常常有数以万计,甚至百万的参数,所以需要使用backpropagation来 阅读全文
摘要:
1.深度学习发展简史 2.三步实现深度学习 2.1Neural Network 神经网络由模仿脑部神经系统发展而来,一个节点称为一个“Neuron”,包括连接在节点上面的weights和biases。 在全连接的神经网络中,一个神经元节点接受上一层节点的输入,分别乘以连接边上的权重,放进激活函数中, 阅读全文