摘要：
1.单层感知机 单层感知机的主要步骤： 1.对数据进行一个权重的累加求和，求得∑ 2.将∑经过一个激活函数Sigmoid，得出值O 3.再将O，经过一个损失函数mse_loss，得出值loss 4.根据loss，以及前边所求得的值，求得loss对各个w的偏导数 5.更新w值 # 单层感知机梯度的推导 阅读全文
摘要：
1.激活函数 激活函数的作用是能够给神经网络加入一些非线性因素，使得神经网络可以更好地解决较为复杂的问题。因为很多问题都不是线性的，你只有给它加入一些非线性因素，就能够让问题更好的解决。 函数1：RELU()： 优点： 1.相比起Sigmoid和tanh，在SGD中能够快速收敛。 2.有效缓解了梯度 阅读全文