摘要:
https://pypi.org/project/easydict/1.2/ EasyDict可以让你像访问属性一样访问dict里的变量。 阅读全文
摘要:
进行降维和升维引起人们重视的(可能)是在GoogLeNet里。对于每一个Inception模块(如下图),原始模块是左图,右图中是加入了1×1卷积进行降维的。虽然左图的卷积核都比较小,但是当输入和输出的通道数很大时,乘起来也会使得卷积核参数变的很大,而右图加入1×1卷积后可以降低输入的通道数,卷积核 阅读全文
摘要:
https://blog.csdn.net/weixin_39910711/article/details/124310557 阅读全文
摘要:
一层layer可以有多个通道channel(或者说特征图)如果输入的是一个RGB图像,那么就会有3个通道。 "kernel"是被用来描述”filter”的结构。 一个"kernel"更倾向于是2D的权重矩阵。而'filter"则是指多个Kernel堆叠的3D结构。如果是一个2D的filter,那么两 阅读全文
摘要:
He初始化是何凯明等提出的一种鲁棒的神经网络参数初始化方法,动机同Xaviar初始化基本一致,都是为了保证信息在前向传播和反向传播过程中能够有效流动,使不同层的输入信号的方差大致相等。 关于参数的大部分假设同Xaviar初始化一致,但是,He初始化对应的是非线性激活函数(Relu 和 Prelu), 阅读全文
摘要:
先用def来定义函数,代码如下 def sq(x): return x*x map(sq,[y for y in range(10)]) 再用lambda函数来编写代码 map(lambda x: x*x,[y for y in range(10)]) 用lambda函数首先减少了代码的冗余,其次, 阅读全文
摘要:
softplus: softplus(x) = log(exp(x) + 1) 许多激活函数之一是Softplus函数,其定义为。 阅读全文