摘要: 激活函数(activate function)在神经元中非常重要,为了增强网络的表示能力和学习能力,激活函数需要具备以下几点性质: (1)连续并可导的非线性函数,以便于利用数值优化的方法来学习网络参数。 (2)激活函数及其导数要尽可能简单,以提高网络计算的效率。 (3)激活函数的导函数的值域要在一个 阅读全文
posted @ 2019-04-11 21:51 Luv_GEM 阅读(1522) 评论(0) 推荐(0) 编辑