CV基础知识点深入理解

BN实现：

• Batch Normalization学习笔记及其实现；

• BatchNormalization 层的实现

• 使用Python实现Batch normalization和卷积层

• Batch Normalization原理与使用过程 （推荐）

• tensorflow 之常见模块conv,bn...实现

根据：Pytorch Batch Normalizatin layer的坑 个人理解：pytorch中affine参数为BN层的参数γ和β是否是可学习的；track_running_stats为是否滑动平均batch的均值和方差；model.train和mode.eval分别设置；但是在train的时候要冻结BN及其统计数据；需要在train模式下重新设置，因为：BN层的统计数据更新是在每一次训练阶段model.train()后的forward()方法中自动实现的，而不是在梯度计算与反向传播中更新optim.step()中完成；CLASS torch.nn.BatchNorm2d(num_features, eps=1e-05, momentum=0.1, affine=True, track_running_stats=True)

• 【译文】TensorFlow实现Batch Normalization

卷积层的实现：

• 卷积层Layer的实现（推荐）

• 使用Python实现Batch normalization和卷积层

• 【Python实现卷积神经网络】：卷积层的正向传播与反向传播+python实现代码

• 卷积操作详解(推荐)

• 卷积神经网络(CNN)反向传播算法

Pool池化实现：

• 池化和BN层的实现

检测中各种池化的实现(RoIPool, RoIAlign,CornerPool...)：

• 详解 ROI Align 的基本原理和实现细节

反卷积实现：

• python 反卷积（DeConv) tensorflow反卷积（DeConv）(实现原理+手写）
• 转置卷积&&膨胀卷积

激活函数：

• 激活函数(Sigmoid, ReLU, Swish, Maxout)