2020年1月3日
摘要：
1、ResNet深度残差网络，当堆叠更深层次的网络时，网络的性能并没有得到提升，因此我们想要网络在提升层次的时候，如20层的网路达到了最好的性能（即已经训练好），为了保证增加层次即使网络性能下降，也不会比20层的网络性能差。在前20层和输出之间增加一条shortcut路。 阅读全文
摘要：
当使用sigmoid时，如果输入的x很大或者很小时，梯度会变化的很慢，使得优化长时间的得不到的更新，导致梯度弥散。当进行归一化之后，将所有的数据划分到相同的范围，无论从哪个方向进行优化，w下降的速度对最后的loss的影响是一样的 1、特征拓展，平移后再放缩。将数据移动到0的周围 2、batch No 阅读全文
摘要：
pass 阅读全文
摘要：
CIFAR100和cifar10的数据量一样，10是将数据集分为10类，而100是将每一类再分为10类 1、Pipeline Load datasets Build Network Train Test 2、layers 13层网络 3、代码 1 import tensorflow as tf 2 阅读全文