摘要：
图看不懂不要紧，把文章看完就肯定理解了。这是一个方便总结的图 1 概述 本文会介绍六种激活函数，并且比较他们的区别。 1.1 梯度消失问题 $$w^{(L)} = w^{(L)} learning rate \times \frac{\partial C}{\partial w^{(L)}}$$ 当 阅读全文
摘要：
1 定义 百度百科的定义： 它是通过把所有地表真实分类中的像元总数（N）乘以混淆矩阵对角线（Xkk）的和，再减去某一类地表真实像元总数与被误分成该类像元总数之积对所有类别求和的结果，再除以总像元数的平方减去某一类中地表真实像元总数与该类中被误分成该类像元总数之积对所有类别求和的结果所得到的。 这对于 阅读全文
摘要：
贝叶斯优化 （BayesianOptimization） 1 问题提出 神经网咯是有许多超参数决定的，例如网络深度，学习率，正则等等。如何寻找最好的超参数组合，是一个老人靠经验，新人靠运气的任务。 穷举搜索 Grid Search 效率太低；随机搜索比穷举搜索好一点；目前比较好的解决方案是贝叶斯优化 阅读全文