摘要： LeNet (20世纪90年代)：最早最出名的神经网络之一。 AlexNet（2012） – 2012年，Alex Krizhevsky（和其他人）发布了 AlexNet，它是提升了深度和广度版本的 LeNet，并在2012年以巨大优势赢得了 ImageNet 大规模视觉识别挑战赛（ILSVRC）。 阅读全文

摘要： 研究算法的时候用到了神经网络，想了解一下，可是，搜了很多资料，发现很少有人能把神经网络搞清楚的。最后还是在国外的一片文章中 找到了比较详细的介绍，这篇文章让我搞清楚了什么是神经网络，的确是神文啊。做个读书笔记，加深理解吧。 人工神经网络是一种计算模型，是受人的大脑处理信息的方式启发发明的一种信息处理 阅读全文

摘要： 线性整流函数（Rectified Linear Unit, ReLU）,又称修正线性单元, 是一种人工神经网络中常用的激活函数（activation function），通常指代以斜坡函数及其变种为代表的非线性函数。比较常用的线性整流函数有斜坡函数，以及带泄露整流函数 (Leaky ReLU)，其中 阅读全文

摘要： 逻辑函数或逻辑曲线是一种常见的S函数，它是皮埃尔·弗朗索瓦·韦吕勒（英语：Pierre François Verhulst）在1844或1845年在研究它与人口增长的关系时命名的。广义Logistic曲线（英语：generalized logistic curve）可以模仿一些情况人口增长（P）的S 阅读全文