摘要：
2018-12-06 17:05:27 这里以二分类举例，首先引入混淆矩阵的概念： 混淆矩阵是一个2×2的方阵，用于展示分类器预测的结果——真正（true positive），假负（false negative）、假正（false positive）及假负（false negative） 下面介绍一 阅读全文
摘要：
2018-12-06 16:25:08 首先我们先来看一下求解梯度的公式，以下面三层的网络为例： 如果w初始化为大于1的数字，在深层神经网络计算梯度的时候就会出现梯度爆炸的现象； 如果w初始化为小于1的数字，在深层神经网络计算梯度的时候就会出现梯度消失的现象； 那么该如何初始化权重值呢? 我们希望的 阅读全文
摘要：
2018-12-06 15:01:54 Dropout：临时的抹去随机的神经元及其进行的关联计算。如下图所示 : Dropout的实现：Inverted Dropout 训练：假设每个神经元以keep_prop的概率被保留 预测：keep_prop设置为1，也就是不使用drop_out Dropou 阅读全文