轻量化模型：Mobile Net V1 核心 分组卷积+1*1逐点卷积

参考： https://zhuanlan.zhihu.com/p/127194294

代码实现：

def conv_dw(inp, oup, stride, leaky=0.1):
	return nn.Sequential(
		nn.Conv2d(inp, inp, 3, stride, 1, groups=inp, bias=False),
		nn.BatchNorm2d(inp),
		nn.LeakyReLU(negative_slope= leaky,inplace=True),

		nn.Conv2d(inp, oup, 1, 1, 0, bias=False),
		nn.BatchNorm2d(oup),
		nn.LeakyReLU(negative_slope= leaky,inplace=True),
	)

注：Conv2d 的 组 和 输入的通道数 \(C_{in}\) 一样, bias = False。

class torch.nn.LeakyReLU(negative_slope=0.01, inplace=False)

参数：

negative_slope-控制负斜率的角度。默认值：1e-2

inplace-可以选择就地执行操作。默认值：False

参考：

https://vimsky.com/examples/usage/python-torch.nn.LeakyReLU-pt.html

https://blog.csdn.net/zhanly19/article/details/99232815

其他可参考：

https://www.cnblogs.com/xiaxuexiaoab/p/12319056.html