机器学习测试
软件体系结构课堂测试答题纸
- 正向传播的功能:输入计算预测值
原理:输入数据到达网络,通过每一层经过加权和激活函数处理,最终到达输出层,生成最终的预测值。
反向传播的功能:由损失函数反向求导,计算所有节点偏导数,不断更新参数,最终得到满意的结果,得到优化。
原理:反向传播,计算每一层的梯度。
梯度下降的功能:参数的更新过程,寻找损失函数的最小值
原理:反向不断地尝试更新参数,使损失函数最小。
- ReLu函数简单,计算效率高,输出结果只有大于0和0两种结果。而tanh和sigmoid函数不仅容易出现梯度消失而且在曲线平滑位置学习非常慢,计算量大。
- 为了增加神经网络的表达能力和学习能力。可以学习和表示更复杂的数据模式和特征,增加网络的表达能力,可以表示更复杂的函数。减少过拟合的风险。提高模型的性能。
Z_1=W_1*X1+W_2*X2= -1
Z_2=W_3*X1+W_4*X2= -2
Z_3=Z_1*W_5+Z_2*W_6= -3