摘要:
激活函数(relu,prelu,elu,+BN)对比on cifar10 可参考上一篇: 激活函数 ReLU、LReLU、PReLU、CReLU、ELU、SELU 的定义和区别 一.理论基础 1.1激活函数 1.2 elu论文(FAST AND ACCURATE DEEP NETWORK LEARN 阅读全文
摘要:
激活函数 ReLU、LReLU、PReLU、CReLU、ELU、SELU 的定义和区别 ReLU tensorflow中:tf.nn.relu(features, name=None) LReLU (Leaky-ReLU) 其中ai是固定的。i表示不同的通道对应不同的ai. tensorflow中: 阅读全文