摘要：
为了记录自己的学习路程，特梳理目录如下： "每日学习记录" "如何成为一名优秀算法工程师 1" "如何成为一名优秀算法工程师 2" "开源书籍" "开源书籍" 深度学习系列 书籍： Neural Network and Deep Learning github https://github.com/ 阅读全文
摘要：
20190618 "MTCNN学习进展.md" "MTCNN学习资源" "MTCNN自己的学习理解" 阅读全文
摘要：
MTCNN 流程 经过三个网络 P Net,R Net,O Net 对于P Net： P Net是一个全卷积层，不涉及到全连接层，所以我们的输入图像的尺寸可以是不固定的。 对于P Net来说，我们的输入图像是图像金字塔，也就是说对于一张图片，根据不同的factor进行图像的缩小。这里的尺寸不固定的意 阅读全文
摘要：
20190618 截止今日，学习了MTCNN预测部分的内容，包括三个网络输入输出之类的东西。 之后需要进一步学习的，NMS原理鞋机，MTCNN训练过程细节，损失函数细节 阅读全文
摘要：
MTCNN pytorch版本的实现 TropComplique/mtcnn pytorch https://github.com/TropComplique/mtcnn pytorch MTCNN实现流程 https://blog.csdn.net/autocyz/article/details/ 阅读全文
摘要：
relu函数为分段线性函数，为什么会增加非线性元素 我们知道激活函数的作用就是为了为神经网络增加非线性因素，使其可以拟合任意的函数。那么relu在大于的时候就是线性函数，如果我们的输出值一直是在大于0的状态下，怎么可以拟合非线性函数呢？ relu是非线性激活函数 题主的疑问在于，为什么relu这种“ 阅读全文
摘要：
relu函数是否存在梯度消失问题以及relu函数的死亡节点问题 存在，在小于的时候，激活函数梯度为零，梯度消失，神经元不更新，变成了死亡节点。 出现这个原因可能是因为学习率太大，导致w更新巨大，使得输入数据在经过这个神经元的时候，输出值小于0，从而经过激活函数的时候为0，从此不再更新。所以relu为 阅读全文
摘要：
batch normalization为什么效果好 深度学习中 Batch Normalization为什么效果好？ 龙鹏 言有三的回答 知乎 https://www.zhihu.com/question/38102762/answer/607815171 深度学习中 Batch Normaliza 阅读全文
摘要：
Batch normalization 1. 为什么我们需要对特征做feature scaling？ 一句话解释就是为了让我们求解loss最低值的过程中更加的平稳和缓，容易收敛。 具体解释可以看这里: 特征工程中的「归一化」有什么作用？ 忆臻的回答 知乎 https://www.zhihu.com/ 阅读全文
摘要：
怎么选取训练神经网络时的Batch size? 知乎 https://www.zhihu.com/question/61607442 深度学习中的batch的大小对学习效果有何影响？ 知乎 https://www.zhihu.com/question/32673260 训练神经网络时如何确定batc 阅读全文
摘要：
一个batch的数据如何做反向传播 对于一个batch内部的数据，更新权重我们是这样做的： 假如我们有三个数据，第一个数据我们更新一次参数，不过这个更新只是在我们脑子里，实际的参数没有变化，然后使用原始的参数更新一次第二个例子，然后使用原始参数更新一次第三个例子。这样一个batch完了之后，我们把这 阅读全文