摘要：
CPU在Cache中找到有用的数据被称为命中，当Cache中没有CPU所需的数据时（这时称为未命中），CPU才访问内存。从理论上讲，在一颗拥有2级Cache的CPU中，读取L1 Cache的命中率为80%。也就是说CPU从L1 Cache中找到的有用数据占数据总量的80%，剩下的20%从L2 Cache读取。由于不能准确预测将要执行的数据，读取L2的命中率也在80%左右（从L2读到有用的数据占总数... 阅读全文
摘要：
激活函数（relu，prelu，elu，+BN）对比on cifar10 可参考上一篇： 激活函数 ReLU、LReLU、PReLU、CReLU、ELU、SELU 的定义和区别 一．理论基础 1.1激活函数 1.2 elu论文（FAST AND ACCURATE DEEP NETWORK LEARN 阅读全文
摘要：
激活函数 ReLU、LReLU、PReLU、CReLU、ELU、SELU 的定义和区别 ReLU tensorflow中：tf.nn.relu(features, name=None) LReLU (Leaky-ReLU) 其中ai是固定的。i表示不同的通道对应不同的ai. tensorflow中： 阅读全文