摘要: 1、ResNet是一种残差网络,咱们可以把它理解为一个子网络,这个子网络经过堆叠可以构成一个很深的网络。 2、但是根据实验表明,随着网络的加深,优化效果反而越差,测试数据和训练数据的准确率反而降低了。这是由于网络的加深会造成梯度爆炸和梯度消失的问题。 目前针对这种现象已经有了解决的方法:对输入数据和 阅读全文
posted @ 2020-07-20 21:18 Tomorrow1126 阅读(376) 评论(0) 推荐(0) 编辑
摘要: 残差在数理统计中是指实际观察值与估计值(拟合值)之间的差。 拟合:如果待定函数是线性,就叫线性拟合或者线性回归(主要在统计中),否则叫作非线性拟合或者非线性回归。表达式也可以是分段函数,这种情况下叫作样条拟合。 一组观测结果的数字统计与相应数值组的吻合。形象的说,拟合就是把平面上一系列的点,用一条光 阅读全文
posted @ 2020-07-20 20:29 Tomorrow1126 阅读(5156) 评论(0) 推荐(1) 编辑
摘要: 1、我们的系统由两部分组成:一个图片转换网络fw 和一个损失网络 φ(用来定义一系列损失函数l1, l2, l3), 图片转换网络是一个深度残差网络,参数是权重W,它把输入的图片x通过映射 y=fw(x)转换成输出图片y, 每一个损失函数计算一个标量值li(y,yi), 衡量输出的y和目标图像yi之 阅读全文
posted @ 2020-07-20 20:25 Tomorrow1126 阅读(500) 评论(0) 推荐(1) 编辑