摘要:
看到一篇简洁博文,受到启发,记录一下 二项逻辑斯蒂回归 VS 正态分布 本身没有可比性: 二项逻辑斯蒂回归 是关于连续变量x到离散变量y {0,1} 的一个映射的概率描述 正态分布是关于单变量本身值的分布范围的概率描述 以下为原博文内容 本文讲有关高斯判别分布与逻辑回归之间有趣的联系。 假设有一个训 阅读全文
摘要:
知乎真是各路好汉汇集,往往能讲概念解释的明白儿的 https://www.zhihu.com/question/20852004 阅读全文
摘要:
为什么CNN用ReLU Sigmoid的导数范围在内,如果采用Sigmoid作为激活函数,多个小于1的导数连续相乘容易引起梯度消失。 tanh的导数范围在内,虽然导数可以达到1,但是在边缘区域仍然有梯度消失的问题。 ReLU的正半轴不存在梯度消失问题,负半轴的存在可以带来一定的稀疏性,但是也会带来梯 阅读全文