摘要: 前面学习了搭建网络模型的各个层级与结构,想要训练得到1个良好的网络模型,正确的权值初始化方法可以加快模型的收敛,相反,不恰当的权值初始化可能导致梯度爆炸或消失,最终导致模型无法训练。因此,本节主要从3方面来分析了解权值初始化:(1)分析不恰当的权值初始化是如何引发梯度消失与爆炸的?(2)学习常用的X 阅读全文
posted @ 2020-08-06 23:06 Selena白桃 阅读(1635) 评论(0) 推荐(1) 编辑
摘要: 池化层(Pooling Layer) 图1 左-最大值池化、右-平均值池化 池化定义 池化运算是对信号进行“收集”并“总结”。由于池化操作类似蓄水池收集水资源,因此得名池化。 (1)收集 通过池化运算将信号由多变少,图像尺寸由大变小的过程; (2)总结 如图1中左图所示,1张$\ 4 \times 阅读全文
posted @ 2020-08-06 22:59 Selena白桃 阅读(4422) 评论(0) 推荐(1) 编辑
摘要: 卷积概念 什么是卷积? 卷积运算:卷积核在输入信号(图像)上滑动,相应位置上进行先乘后加的运算 以上图为例,中间为卷积核,在输入图像上进行滑动,当滑动到当前位置时,其卷积运算操作是对卷积核所覆盖像素,进行权值和对应位置处像素的乘加: \(\ output= (7*0+7*(-1)+6*0+7*(-1 阅读全文
posted @ 2020-08-06 22:53 Selena白桃 阅读(978) 评论(0) 推荐(0) 编辑