摘要:
前面学习了搭建网络模型的各个层级与结构,想要训练得到1个良好的网络模型,正确的权值初始化方法可以加快模型的收敛,相反,不恰当的权值初始化可能导致梯度爆炸或消失,最终导致模型无法训练。因此,本节主要从3方面来分析了解权值初始化:(1)分析不恰当的权值初始化是如何引发梯度消失与爆炸的?(2)学习常用的X 阅读全文
摘要:
池化层(Pooling Layer) 图1 左-最大值池化、右-平均值池化 池化定义 池化运算是对信号进行“收集”并“总结”。由于池化操作类似蓄水池收集水资源,因此得名池化。 (1)收集 通过池化运算将信号由多变少,图像尺寸由大变小的过程; (2)总结 如图1中左图所示,1张$\ 4 \times 阅读全文
摘要:
卷积概念 什么是卷积? 卷积运算:卷积核在输入信号(图像)上滑动,相应位置上进行先乘后加的运算 以上图为例,中间为卷积核,在输入图像上进行滑动,当滑动到当前位置时,其卷积运算操作是对卷积核所覆盖像素,进行权值和对应位置处像素的乘加: \(\ output= (7*0+7*(-1)+6*0+7*(-1 阅读全文