随笔分类 - 深度学习
摘要：pytorch网络输入图像的格式为（C, H, W)，而numpy中的图像的shape为（H,W,C） 所以一般需要变换通道，将numpy中的shape变换为torch中的shape。 方法如下： # A是numpy数据类型A = A.transpose(0,1,2) # 没有改变：(h,w,c)
阅读全文
摘要：对一些α的值选取还需要定量分析，分析这些值对预测效果的影响，选择最优的α。（交叉验证实现） 优缺点：Ridge回归在不抛弃任何一个变量的情况下，缩小了回归系数，使得模型相对而言比较的稳定，但这会使得模型的变量特别多，模型解释性差。容易导致过拟合。 它的改进就是lasso回归。
阅读全文
摘要：卷积过程中，输入层有多少个通道，滤波器就要有多少个通道，但是滤波器的数量是任意的，滤波器的数量决定了卷积后 featuremap 的通道数（与result区别）。 如果把输入当做一个立方体的话，那么 filter 也是一个立方体，它们卷积的结果也是一个立方体，并且上面中 input、filter、R
阅读全文
摘要：BN本质上解决的是反向传播过程中的梯度问题。 详细点说，反向传播时经过该层的梯度是要乘以该层的参数的，即前向有： 那么反向传播时便有： 那么考虑从l层传到k层的情况，有： 上面这个 便是问题所在。因为网络层很深，如果 大多小于1，那么传到这里的时候梯度会变得很小比如 ；而如果 又大多大于1，那么传到
阅读全文
